비즈니스를 위한 AI: 할 수 있는 일과 (할 수 없는 일)

요즘 비즈니스용 AI 분야에서 가장 빠르게 늘어나는 제안은 매주 들려오는 이야기입니다. 바로 창업자가 소프트웨어 업체와의 복잡한 논의를 건너뛰고 주말 동안 AI를 이용해 자체 POS 시스템을 직접 구축하겠다는 계획입니다. 이 제안은 그럴듯하게 들립니다. 원하는 기능을 설명하면 모델이 코드를 작성하고, 월요일에 바로 매장 문을 열면 되니까요. 실제로 사람들은 이 방식으로 랜딩 페이지, 내부 대시보드, 모바일 앱의 뼈대 등 정말 인상적인 결과물을 만들어내고 있습니다.

하지만 실제 결제를 처리하려는 순간, 주말 계획은 한 분기짜리 프로젝트로 늘어나게 됩니다(말장난이 이해되시나요?).

이 글은 AI를 쓰지 말라는 경고가 아닙니다. 저희도 AI를 끊임없이 사용하고 있으며, AI가 실제로 무엇을 잘하는지 이해하는 판매자들은 그렇지 못한 경쟁자들보다 앞서 나가고 있습니다. 다만 현재 커머스 분야에서 반복되는 구체적인 실패 패턴이 있으며, 단순히 실패한다는 사실을 넘어 왜 그런 일이 발생하는지 이해할 가치가 있습니다.

작성 시점에 대한 참고: 이 글은 Claude Opus 4.8, Gemini 3.5 Flash, GPT-5.5가 주로 사용되는 2026년 7월에 작성되었습니다. 이 라인업은 빠르게 구식이 될 것입니다. 이러한 도구들은 매달 변화하며, 오늘 존재하는 한계가 여러분이 이 글을 읽을 때쯤에는 해결되었을 수도 있고, 아직 아무도 발견하지 못한 새로운 특이점이 나타났을 수도 있습니다. 아래의 구체적인 내용들은 현재 시점의 스냅샷으로 참고하시고, 실제로 사용 중인 모델의 현재 기능과 알려진 약점을 주기적으로 확인하는 습관을 들이시기 바랍니다.

이러한 모델들이 실제로 작동하는 방식

대규모 언어 모델(LLM)은 예측 엔진입니다. 방대한 양의 텍스트와 코드를 학습했으며, 핵심적으로 한 가지 일을 매우 잘합니다. 즉, 지금까지 작성된 모든 내용을 바탕으로 다음에 올 가장 확률이 높은 텍스트 뭉치를 예측하는 것입니다. 그게 전부입니다. 모델이 정보를 조회하는 데이터베이스가 따로 있는 것도 아니고, 사실 여부를 확인하는 내부 장부가 있는 것도 아닙니다. 그저 가장 그럴듯한 이어질 말을 만들어낼 뿐입니다.

Design 덕분에 특정 작업에서는 마치 마법처럼 느껴집니다. 제품 설명 작성, 이메일 초안 작성, 깔끔한 버튼 그리드를 렌더링하는 React 컴포넌트 생성 등은 패턴 완성 문제에 해당하며, 모델은 이미 수백만 개의 예시를 보았습니다. 통계적으로 맞기 때문에 출력된 결과물도 맞게 보이는 것입니다.

문제는 '가장 그럴듯한 것'과 '실제로 정확한 것'이 일치하지 않을 때 시작됩니다.

환각 현상(Hallucination)에 대하여

모델이 매우 자신만만한 어조로 완전히 틀린 내용을 생성할 때, 업계에서는 이를 '환각 현상'이라고 부릅니다. 이 단어는 마치 일시적인 오류처럼 들리게 만듭니다. 하지만 그렇지 않습니다. 이는 시스템이 설계된 대로 작동하여, 그럴듯함과 사실이 어긋난 상황에서 그럴듯한 텍스트를 만들어낸 결과입니다.

모델에게 일부 금액을 환불하는 API 메서드를 물어보았을 때, 모델이 최신 공식 문서를 학습하지 않았다면 "모르겠습니다"라고 답하지 않을 것입니다. 그것은 확률상 자연스러운 이어질 말이 아니기 때문입니다. 대신 모델은 실제 존재하는 것처럼 보이는 메서드 이름을 명명 규칙과 그럴듯한 매개변수를 조합하여 지어낼 것입니다. 아주 권위 있어 보이지만, 고객이 환불을 요청하는 순간 아무런 오류 메시지도 없이 조용히 실패할 것입니다.

이는 커머스 분야에서 다른 어떤 곳보다 치명적입니다. 미세한 오류의 대가가 곧 자금의 오작동으로 이어지기 때문입니다. 블로그 서론에 환각 현상이 들어간 것은 당황스러운 일로 끝나지만, 세금 계산, 환불 흐름, 재고 차감에서 발생한 환각 현상은 결제 취소(차지백), 세무 감사, 또는 고객에게 이중 청구되는 사고로 이어집니다.

커머스 구축이 보기보다 어려운 이유

사람들이 "POS를 만들어 달라"거나 "쇼핑몰을 구축해 달라"고 할 때, 대개는 화면을 떠올립니다. 제품 그리드, 장바구니, 결제 버튼 같은 것들 말이죠. AI는 이러한 화면을 빠르게 만들어낼 수 있으며 결과물도 전문적으로 보입니다.

하지만 화면은 쉬운 10%에 불과합니다. 단순한 화면 이미지를 넘어 실제 작동하는 커머스 시스템으로 만드는 것은 화면 뒤에 숨겨진 모든 데이터 상태(State)와 연동(Integration)이며, 이들 대부분은 레이아웃이 아닌 백엔드 로직입니다.

결제. 돈을 받는 과정에는 결제 대행사(PG), 가맹점 계정, PCI 보안 표준 준수, 토큰화된 카드 처리, 그리고 결제 거절, 부분 매입, 환불, 분쟁, 통화 변환과 같은 수많은 예외 상황이 얽혀 있습니다. 모델은 결제 API를 호출하는 것처럼 보이는 코드를 작성할 수 있습니다. 하지만 그 코드가 안전하고 규정을 준수하며 예외 상황을 올바르게 처리하는지는 완전히 다른 문제이며, 실제로 중요한 것은 바로 이 부분입니다.

재고. 재고는 단순히 페이지에 표시되는 숫자가 아닙니다. 마지막 남은 상품 하나를 두고 두 명의 고객이 동시에 결제할 때, 반품이 들어올 때, 수동으로 재고를 조정할 때도 항상 정확하게 유지되어야 하는 값입니다. 동시성 처리가 잘못되면 초과 판매가 발생합니다. 모델은 이러한 상태 보존 및 경쟁 상태(Race Condition)가 발생하기 쉬운 로직에 악명이 높을 정도로 취약한데, 이는 로직의 정확성이 모델이 결코 볼 수 없는 런타임 동작에 의존하기 때문입니다.

주문 내역 및 대조. 모든 거래는 단 한 번, 변경 불가능하게 기록되어야 하며, 결제 대행사에서 실제로 처리된 내역과 대조되어야 합니다. 이는 지루하고 화려하지 않은 장부 정리 로직이지만, 회계사 및 세무 당국과의 마찰을 피하기 위해 반드시 필요한 부분입니다.

세금. 세율은 관할 구역, 제품 카테고리, 고객의 위치에 따라 다르며 수시로 변경됩니다. 그럴듯하게 작성된 세금 계산 함수는 세금 함수가 아예 없는 것보다 위험합니다. 세금 신고를 하기 전까지는 잘못되었다는 사실조차 인지하지 못할 수 있기 때문입니다.

이 중 레이아웃과 관련된 문제는 단 하나도 없습니다. 이들은 모두 '시간이 지나도 유지되는 정확성'의 문제이며, '가장 그럴듯한 코드를 생성하는 것'은 구조적으로 정확성을 보장하기에 적절한 도구가 아닙니다.

AI가 진정으로 제 역할을 다하는 영역

비즈니스에서 AI를 멀리하라는 뜻이 아닙니다. 오히려 그 반대입니다. 소규모 매장이 매일 처리해야 하는 업무의 대부분은 AI가 진정한 강점을 발휘하는 영역에 속해 있으며, 이를 활용하지 않는다면 경쟁자들보다 더 힘들게 일하고 있는 것입니다.

AI에 적합한 작업의 패턴은 다음과 같습니다. 자신감 있게 작성된 첫 번째 초안이 실제 시간을 크게 절약해 주며, 여러분이 결과물을 보고 그것이 좋은지 나쁜지 쉽게 판단할 수 있는 작업입니다. 마케팅과 콘텐츠 작업이 여기에 완벽하게 부합합니다.

광고 이미지 생성. 촬영 비용을 지불하거나 스톡 이미지 구독을 하는 대신, 단 몇 분 만에 광고 비주얼, 제품 목업, 소셜 미디어 그래픽을 제작할 수 있습니다. 시즌 프로모션이나 두 가지 시안의 빠른 A/B 테스트를 진행할 때 비용이 거의 들지 않으면서도 매우 유용합니다.

소셜 미디어 게시글 및 캡션 작성. 제품 정보와 원하는 톤앤매너를 입력하면 직접 한 개를 쓰는 것보다 빠르게 일주일 치 게시글 초안을 작성해 줍니다. 최종 편집은 여전히 여러분의 몫이지만, 빈 페이지를 마주해야 하는 부담이 사라집니다.

광고 및 뉴스레터 아이디어 구상. 결과물이 최종본이 아니더라도 브레인스토밍 단계에서 큰 빛을 발합니다. 신학기 캠페인을 위한 20가지 방향성을 요구하면 대부분은 평범하겠지만, 그중 두세 개는 실행할 만한 가치가 있을 것입니다. 혼자였다면 20가지 아이디어를 모두 생각해내지 못했을 것입니다.

의사결정 토론. 고객 우대 혜택을 어떻게 구성할지, 다음에는 무엇을 테스트할지 등 일반적인 비즈니스 질문에 대한 토론 상대로 활용해 보세요. 가끔 자신 있게 틀린 말을 하는 똑똑한 동료로 취급하고 조언자처럼 활용한다면 훌륭한 생각의 파트너가 될 것입니다.

그 외에도 리뷰와 고객 문의를 요약하여 패턴을 파악하는 일, 사람이 검증할 자동화 규칙의 첫 번째 버전을 작성하는 일, 이미 사용 중인 도구의 사용법에 대한 질문에 답하는 일 등 덜 화려하지만 실속 있는 작업들이 있습니다.

명백한 AI 저품질 결과물과 좋은 결과물을 가르는 두 가지 주의사항

First, AI가 생성한 비주얼은 특유의 유사성 문제가 있습니다. 광택이 나고 지나치게 완벽한 그라데이션 포스터 같은 기본 스타일은 이제 너무 흔해져서 고객들이 즉시 알아차리며, 저렴한 느낌을 줍니다. 생성된 이미지를 사용할 때는 첫 번째 결과물에 만족하지 말고 스타일을 변경하고, 브랜드 고유의 색상과 제품 사진을 입력하고, 완성작이 아닌 시작점으로 삼아 크롭 및 편집을 거치세요. 다른 모든 AI 포스터와 똑같이 생긴 포스터는 포스터가 아예 없는 것보다 효과가 떨어집니다.

Second, 외부로 발송하기 전에 모든 내용을 교정하세요. AI는 맞는 말만큼이나 틀린 말도 자신 있게 하기 때문에, 확인을 거치지 않으면 잘못된 가격, 지어낸 제품 기능, 가짜 통계가 뉴스레터에 그대로 실릴 수 있습니다. 규칙은 간단합니다. 초안은 AI가 작성할 수 있지만, 고객에게 전달되기 전 최종 승인은 반드시 사람이 해야 합니다. 여러분이 그 말에 책임을 져야 하므로 모든 단어를 꼼꼼히 읽으세요.

이 모든 것의 공통점은 다음과 같습니다. AI는 그럴듯한 초안이 시간을 절약해 주고 결과물을 쉽게 검증할 수 있는 영역에서 탁월합니다.

반면, 미세하고 자신 있게 틀린 내용이 비용 손실을 초래하고 결과물을 쉽게 검증할 수 없는 영역에서는 위험합니다.

실제로 중요한 차이점

여기에 대부분의 "AI가 내 POS를 만들었다"는 성공담이 놓치는 부분이 있습니다. AI에게 무에서 유로 커머스 로직을 발명하라고 요구하는 것과, 돈을 올바르게 처리하는 기존 인프라 위에서 매장을 조립하라고 요구하는 것 사이에는 큰 차이가 있습니다.

범용 모델이 결제 처리, 재고 계산, 세금 로직을 아무것도 없는 상태에서 작성할 때, 그 모든 단계는 그럴듯하지만 틀린 내용을 환각할 새로운 기회가 됩니다. 정확해야만 하는 핵심 영역을 예측 엔진에 전적으로 의존하는 셈입니다. 이것이 바로 한 분기 동안 디버깅만 하게 되는 프로젝트의 전형적인 모습입니다.

하지만 결제 처리, 재고 차감, 주문 장부, 대조 작업 등은 매장마다 매번 새로 발명할 필요가 없습니다. 이는 모든 판매자가 겪는 공통의 어려운 문제이며, 예외 상황을 전문적으로 처리하는 이들에 의해 이미 올바르게 해결되어 있어야 합니다. 이 기반이 이미 존재하고 제대로 작동하는 것이 확인되었다면, AI에게 남은 작업은 화면 구성, 레이아웃 배치, 흐름 연결 등 실제로 잘하는 영역입니다. 이 단계에서는 그럴듯함으로도 충분합니다. 사람이 결과물을 눈으로 확인할 수 있고, 그 아래에서 움직이는 돈은 이미 안전하게 처리되고 있기 때문입니다.

따라서 교훈은 "커머스에서 AI를 멀리하라"가 아닙니다. AI가 돈을 움직이는 로직을 직접 생성하는 구조는 매우 경계하되, AI가 돈을 올바르게 움직이는 기존 인프라 위에서 작동하는 구조는 훨씬 안심하고 사용하라는 것입니다. 전자는 예측 엔진에 정확성을 요구하는 것이고, 후자는 정확성을 위해 구축된 시스템이 나머지를 처리하는 동안 AI가 가장 잘하는 일을 하도록 맡겨두는 것입니다.

상점 화면은 정확해야 합니다. 돈은 대부분의 경우가 아니라 매번 완벽하게 올바르게 움직여야 합니다. 커머스에서 AI를 똑똑하게 사용하는 방법은 AI가 어느 레이어에 속해야 하는지 알고, 그 아래의 레이어는 결코 예측이나 짐작에 맡겨두지 않는 것입니다.