# 예비 AI 컨설턴트가 반드시 배워야 할 16가지 용어(그리고 사용을 피해야 할 4가지 용어)

> Published: 2026-08-14
> Updated: 2026-08-14
> Author: Jackson Mclean
> Category: POS
> Canonical: https://finalpos.com/ko/blog/ai-16-4

토큰과 RAG부터 MCP, evals에 이르기까지 예비 AI 컨설턴트를 전문가처럼 보이게 만들어 주는 16가지 용어와, 고객의 신뢰를 조용히 무너뜨리는 4가지 버즈워드를 소개합니다.

16가지 용어는 거대 언어 모델(large language model), 토큰(token), 컨텍스트 윈도우(context window), 추론(inference), 프롬프트(prompt), 시스템 프롬프트(system prompt), 검색 증강 생성(retrieval-augmented generation), 파인 튜닝(fine-tuning), 임베딩(embedding), 에이전트(agent), MCP, 오케스트레이션(orchestration), 휴먼 인 더 루프(human in the loop), 환각(hallucination), 가드레일(guardrails), 그리고 evals입니다. 버려야 할 4가지 용어는 "AI 기반(AI-powered)", "고객 데이터로 학습됨(trained on your data)", "AGI", "100% 정확함(100% accurate)"입니다. 모든 예비 AI 컨설턴트는 성과를 내기 전에 어휘력으로 먼저 평가받습니다. 첫 미팅에서 잠재 고객이 확인할 수 있는 것은 어휘력뿐이기 때문입니다. 이 정의들은 2026년 8월 게시 시점 기준으로 정확하며, 이 분야는 빠르게 변하므로 세부 내용은 스냅샷으로 참고하시기 바랍니다.

## 핵심 모델 용어에는 어떤 것이 있나요?

네 가지 용어는 머신 자체를 설명합니다. 이 개념들을 정확히 이해하면 나머지 개념도 쉽게 파악할 수 있습니다.

1. 거대 언어 모델(Large language model, LLM). ChatGPT, Claude, Gemini의 기반이 되는 엔진으로, 방대한 양의 텍스트를 학습하여 다음 언어 조각을 예측하는 모델입니다. 고객이 "AI"라고 말할 때 보통 이것을 의미합니다.
2. 토큰(Token). 모델이 읽고 과금하는 작은 텍스트 단위로, 보통 단어 하나보다 약간 짧습니다. API 가격(모델 사용량 기반 청구)은 토큰당 책정되므로 이는 단순한 상식이 아니라 비용 관련 용어입니다.
3. 컨텍스트 윈도우(Context window). 모델의 작업 기억 장치로, 한 번에 고려할 수 있는 텍스트의 양을 의미합니다. 고객이 AI가 규정 매뉴얼의 40페이지를 왜 "잊어버렸는지" 물을 때 컨텍스트 윈도우가 보통 그 답변이 됩니다.
4. 추론(Inference). 모델을 학습시키는 것과 달리, 학습된 모델을 실행하여 답변을 얻는 과정입니다. 추론은 프로젝트가 출시된 후 고객이 매월 지속적으로 지불하게 되는 반복 비용입니다.

## 더 나은 답변을 얻기 위한 용어에는 어떤 것이 있나요?

다섯 가지 용어는 범용 모델을 특정 비즈니스에 유용하게 만드는 기법을 다룹니다.

1. 프롬프트(Prompt). 모델에 내리는 지시 사항입니다. 이제는 작성된 설명만으로 전체 제품이 제작되기도 합니다. [프롬프트 기반 빌더](/blog/final-pos-flow-studio)는 한 단락의 글을 실제 작동하는 소프트웨어로 바꾸어 주므로, 프롬프트는 이제 단순한 채팅 메시지가 아니라 산출물입니다.
2. 시스템 프롬프트(System prompt). 사용자가 아무것도 입력하기 전에 모델이 받는 기본 지시 사항입니다. 소상공인에게 판매되는 수많은 "맞춤형 AI 어시스턴트"는 메커니즘상 기존 모델 위에 시스템 프롬프트를 얹은 것에 불과합니다. 견적을 책정하기 전에 이 사실을 알아두세요.
3. 검색 증강 생성(Retrieval-augmented generation, RAG). 질문이 들어왔을 때 가장 관련성 높은 문서를 가져와 모델에 전달하는 방식입니다. 모델 자체를 수정하지 않고도 고객의 매뉴얼과 규정을 바탕으로 답변하도록 만드는 방법입니다.
4. 파인 튜닝(Fine-tuning). 새 예시로 모델을 학습시켜 모델의 가중치(내부 설정)를 실제로 변경하는 작업입니다. 비용이 많이 들고 업데이트가 더디며, 첫 번째 해결책으로 적합한 경우는 드뭅니다. 고객이 "학습"이라고 부르는 대부분의 작업은 사실 RAG입니다.
5. 임베딩(Embedding). 비슷한 의미가 서로 가깝게 위치하도록 텍스트를 숫자 목록으로 변환하는 것입니다. 임베딩은 RAG가 검색하는 색인 역할을 하며, 임베딩이 없으면 "관련 문서 찾기"가 작동하지 않습니다.

![정리된 선반에서 서류 봉투 하나를 꺼내는 사람, 검색 증강 생성을 비유함](https://hy9joxwes0n0bta4.public.blob.vercel-storage.com/media/43399b6a-0d29-48b6-84dd-88ef01fcb193/generated/ba2aaedcbd614b3a-rag-retrieval-folders-inline.png)

## AI가 실제 작업을 시작할 때 중요한 용어는 무엇인가요?

답변을 내놓는 것은 쉬운 부분입니다. 이 네 가지 용어는 행동을 취하는 AI를 다루며, 이는 컨설팅 프로젝트가 나아가고 있는 방향입니다.

1. 에이전트(Agent). 단 하나의 답변만 반환하는 대신 목표를 향해 루프 형태로 작업하는 AI입니다. 즉, 계획을 세우고 도구를 사용하며 결과를 확인하고 다시 시도합니다. 에이전트는 오류가 누적되는 지점이기도 하며, 이 때문에 이 목록의 나머지 세 가지 용어가 청구 가능한 서비스가 됩니다.
2. MCP (Model Context Protocol). AI 애플리케이션이 외부 도구 및 데이터에 연결할 수 있도록 지원하는 [개방형 표준](https://modelcontextprotocol.io)으로, 흔히 AI용 USB-C 포트로 비유됩니다. 2024년 말 Anthropic에서 시작되었으며 현재는 Linux Foundation 산하 [Agentic AI Foundation에서 관리](https://www.anthropic.com/news/donating-the-model-context-protocol-and-establishing-of-the-agentic-ai-foundation)하고 있으며, ChatGPT, Claude, Cursor, Microsoft Copilot 전반에서 지원됩니다. 고객이 묻는 "AI가 우리 시스템과 연동될 수 있나요?"라는 질문의 거의 대부분은 이제 MCP를 통해 해결됩니다.
3. 오케스트레이션(Orchestration). 여러 모델, 도구 및 단계를 하나의 워크플로로 조율하는 것입니다. 어떤 모델이 무엇을 어떤 순서로 처리할지, 특정 단계가 실패하면 어떻게 할지를 결정합니다.
4. 휴먼 인 더 루프(Human in the loop). AI의 작업 결과물이 심각한 영향을 미치기 전에 이를 검토하는 사람을 의미합니다. 그 검토자를 어떤 단계에 배치할지 결정하는 것이야말로 고객이 컨설턴트에게 비용을 지불하는 실제 설계 의사결정입니다.

![여러 다른 기기를 연결하는 하나의 표준 케이블, Model Context Protocol을 비유함](https://hy9joxwes0n0bta4.public.blob.vercel-storage.com/media/43399b6a-0d29-48b6-84dd-88ef01fcb193/generated/886ffdbaa7baf10a-mcp-universal-connector-inline.png)

## 고객 프로젝트를 문제로부터 보호하는 용어에는 어떤 것이 있나요?

마지막 세 가지 용어는 단순한 애호가가 아니라 전문가처럼 보이게 만들어 주는 용어입니다.

1. 환각(Hallucination). 확신에 찬 어조와 유창한 언어로 제시하는 틀린 답변입니다. 이는 시스템의 일반적인 실패 유형일 뿐, 특정 벤더가 비밀리에 해결한 버그가 아닙니다.
2. 가드레일(Guardrails). 시스템이 말하거나 수행할 수 있는 작업에 대한 엄격한 제한입니다. 거부하는 주제, 취할 수 없는 행동, 초과할 수 없는 임계값 등이 포함됩니다.
3. Evals. 평가(evaluations)의 줄임말로, 모든 변경 전후에 알려진 사례를 기준으로 AI 시스템을 점수화하는 반복 가능한 테스트입니다. evals 없이 AI 시스템을 판다면 그것은 느낌만 파는 것과 다름없습니다. 이 용어가 계약을 따내게 해 줍니다.

![검토자가 인쇄된 페이지를 손으로 직접 확인하며 AI 컨설턴트가 설계하는 휴먼 인 더 루프 단계를 보여줌](https://hy9joxwes0n0bta4.public.blob.vercel-storage.com/media/43399b6a-0d29-48b6-84dd-88ef01fcb193/generated/624d8021204fc3c0-human-in-the-loop-review-inline.png)

## 사용을 피해야 할 4가지 용어는 무엇인가요?

이 용어들은 각각 다른 이유로 잠재 고객의 신뢰를 떨어뜨립니다.

1. "AI 기반(AI-powered)". 아무것도 명확히 설명하지 못하며 모든 피치 덱에 들어가는 문구입니다. 대신 정확한 메커니즘을 명시하세요. 고객 문서 대상 RAG, 사람이 검토하는 에이전트, 파인 튜닝된 분류기 등과 같이 말이죠.
2. "고객 데이터로 학습됨(Trained on your data)". 대부분 거짓입니다. 대부분의 고객 시스템은 학습이 아닌 RAG나 긴 컨텍스트 윈도우를 사용하며, 이 문구는 개인정보 보호 우려를 자극하여 미팅 내내 이를 해명하는 데 시간을 보내게 만듭니다. 실제로 파인 튜닝을 진행하는 것이 아니라면 "고객 데이터에 기반함(grounded in your data)"이라고 언급하세요.
3. "AGI". 인공일반지능(Artificial general intelligence)은 연구상의 논쟁거리이지 작업 범위를 정의하는 용어가 아닙니다. 고객이 물어보면 솔직하게 답변하되, 제안의 주된 내용으로 삼지 마세요. 입증할 수 없는 예측을 남발하게 되기 때문입니다.
4. "100% 정확함(100% accurate)". "환각 없음(hallucination-free)"도 마찬가지입니다. 그 누구도 솔직하게 보장할 수 없는 약속입니다. 대신 직접 진행한 evals의 측정된 오류율을 인용하세요. 지키지 못할 0%라는 약속보다 실제 수치가 더 많은 계약을 성사시킵니다.

## 그렇다면 실제로 가장 중요한 용어는 무엇일까요?

고객과의 대화에서 가장 결정적인 4가지 용어를 꼽는다면 RAG, agent, MCP, evals일 것입니다. 즉, 시스템이 무엇을 알고 있는지, 무엇을 할 수 있는지, 무엇에 연결되는지, 그리고 어떻게 작동을 입증하는지입니다. 이 4가지는 확실하게 숙지하고 나머지는 필요에 따라 활용하세요. 대원칙은 다음과 같습니다. 고객에게 용어를 한 문장으로 정의할 수 없다면 제안 발표에서 제외하세요.

실제 프로젝트에서 이 어휘들이 어떻게 적용되는지 보려면 [AI 컨설턴트가 사내 SaaS 대체 프로젝트의 범위를 설정하는 방법](/blog/scoping-an-in-house-saas-replacement)을 읽어보세요. 말로 듣는 것과 시연의 차이를 직접 느껴보고 싶다면, [MCP를 통해 자체 AI를 연결](https://finalpos.com/help/connect-your-own-ai-mcp)하여 Final의 빌더에 연동하고 [프롬프트가 작동하는 POS가 되는 모습](/blog/claude-cowork-double-usage-ends-august-5)을 확인해 보세요. 그리고 고객이 가맹점주라면, 함께 참고하기 좋은 [신규 가맹점주가 알아야 할 30가지 POS 용어](/blog/pos-terminology-30-terms-new-merchants) 글에서 대화의 나머지 절반을 채울 수 있습니다.

## FAQ

**Q: RAG와 파인 튜닝의 차이점은 무엇인가요?**
A: RAG는 질문 시점에 모델에 관련 문서를 전달하는 방식이며, 파인 튜닝은 새 예시로 학습시켜 모델 자체를 변경하는 방식입니다. RAG는 비용이 더 저렴하고 업데이트가 빠르며, 대부분의 고객 프로젝트에 적합한 기본 선택지입니다.

**Q: AI 컨설팅에서 MCP는 무엇의 약자인가요?**
A: Model Context Protocol(모델 컨텍스트 프로토콜)의 약자로, AI 애플리케이션이 외부 도구 및 데이터에 연결할 수 있도록 지원하는 개방형 표준입니다. 2024년 말 Anthropic에서 시작되었으며 현재는 Linux Foundation 산하 Agentic AI Foundation에서 관리하고 있습니다.

**Q: AI 컨설턴트는 코딩을 할 줄 알아야 하나요?**
A: 항상 그렇지는 않지만, 작업 범위를 솔직하게 산정할 수 있을 정도의 기술 어휘력은 필요합니다. 오늘날 많은 프로젝트는 맞춤형 코드보다는 프롬프트 기반 도구와 MCP 연결을 통해 진행됩니다.

**Q: 컨설턴트가 'AI 기반(AI-powered)'이라는 표현을 피해야 하는 이유는 무엇인가요?**
A: 아무것도 구체적으로 설명하지 못하며, 잠재 고객들은 이제 이 말을 무시하는 법을 배웠기 때문입니다. 대신 고객 문서 대상 RAG나 사람이 검토하는 에이전트처럼 구체적인 메커니즘을 명시하는 것이 좋습니다.