🤖 AI 챗봇 기획자는 설마 사라질까?

똑똑한 AI 시대에서 살아남는 기획자의 필수 생존 가이드

안녕하세요! AI 시대가 오면서 많은 분들이 "이제 AI가 다 알아서 하는데 내가 기획자로서 꼭 필요할까?"라는 고민을 하고 계실 텐데요.

특히 처음으로 AI 챗봇 기획에 뛰어들게 된 분들이라면 RAG, 폴백 시나리오, 쿠션멘트 같은 생소한 용어들 때문에 더욱 막막하실 거예요.

하지만 결론부터 말씀드리면, AI가 더 똑똑해질수록 기획자의 역할은 오히려 더 중요해지고 있어요. AI는 엄청난 정보를 학습했지만, 그중 어떤 것을 언제 어떻게 보여줄지는 스스로 정하지 못하거든요. 이런 방향과 기준을 제시하는 것이 바로 기획자의 핵심 역할이에요.

현재 전 세계 LLM 시장이 2024년 286억 달러에서 2033년까지 1,514억 달러로 성장할 것으로 예상되고, 전 세계 챗봇 시장은 2023년 63억 달러에서 2030년 273억 달러에 이를 것으로 예상됩니다. 이런 폭발적인 성장세 속에서도 기획자의 역할은 더욱 중요해지고 있어요.

🧠 LLM + RAG: AI 챗봇의 두뇌와 기억

LLM, 똑똑하지만 완전하지 않은 존재

LLM은 대규모 텍스트 데이터를 학습해 문장을 생성하는 AI 모델이에요. ChatGPT가 59.8% 점유율로 시장을 주도하고 있는 상황이지만, LLM은 모든 정보를 알고 있는 전지적 존재가 아니에요.

일정 시점까지의 데이터로만 학습되었고, 그 이후 정보나 기업 내부 정보는 전혀 모르거든요. 여기서 바로 RAG가 등장해요!

RAG: 정보를 최신화하는 마법

RAG(Retrieval-Augmented Generation)를 한 줄로 설명하면 '정보를 최신화하는 프레임워크'예요.

RAG 1.0: 유저 질문을 벡터화 → 문서 검색 → 검색된 문서를 기반으로 LLM이 응답 생성

RAG 2.0: 유저 질문 + 문서 검색 결과를 통합 → 프롬프트에 구조화하여 응답 생성

RAG 1.0이 '좋은 책 한 권'을 찾아 답변하는 것이라면, RAG 2.0은 '여러 권의 좋은 책'을 찾아 '정확하고 논리적인 비교 분석'까지 해주는 것이라고 생각하면 돼요.

실제 성공 사례들이 증명하는 RAG의 위력

KB국민카드는 매일 변경되는 수백 건의 이벤트 문서를 RAG로 관리하며 고객에게 정확한 이벤트 정보를 제공하고 있어요. 스켈터랩스와 협력하여 개발한 '이벤트 Q&AI' 서비스는 자연스러운 대화 형식으로 약 150건 정도의 이벤트 정보를 안내하고 있죠.

리걸테크 기업 로앤굿은 최근 5년간 총 4,360페이지에 달하는 결정문·심결례를 학습한 RAG 기반 변호사용 챗봇 '로앤봇'을 공개했어요. 로앤봇은 지난 5월 출시 후 한 달 만에 1000여건 이상의 질문이 등록됐고, 지난 한 달 사이에는 2000건 이상의 질문이 접수되며 가파른 증가세를 보였습니다.

삼성SDS는 SCP 컨테이너 상품 관련 기술지원에서 자가 조치 가능한 문의가 68%를 차지하는 문제를 RAG로 해결하고 있어요.

🎯 메인 시나리오 vs 폴백 시나리오: 예상과 현실의 갭

LLM 챗봇도 여전히 시나리오 설계가 핵심이고, 바로 여기서 기획자가 필요한 이유가 드러나요.

메인 시나리오

유저가 의도한 목적(예: "배송 조회")에 도달하기 위한 핵심 플로우예요. 대부분의 시나리오 설계의 기반이 되죠.

폴백 시나리오

'의도 불일치, 시스템 오류, 잡담 대응, 부적절 발화' 등 예상 외 상황에 대응하는 시나리오예요.

예시: "제가 잘 이해하지 못했어요. 다시 한 번 말씀해주시겠어요?"

두 시나리오는 각각 다른 UX, 응답 톤, Safety 정책이 필요하며, 기획자가 이 경계를 명확히 잡아주는 것이 중요해요. 뱅킹 및 소비자 서비스 사용자의 70%가 동일한 챗봇을 반복적으로 사용한다는 통계를 보면, 좋은 시나리오 설계가 얼마나 중요한지 알 수 있어요.

💬 쿠션멘트: 따뜻한 마음을 전하는 기술

쿠션멘트는 사용자의 감정선을 고려하여 직접적인 응답 이전에 제공하는 완충 문장이에요.

예시:

• "확인해볼게요! 잠시만 기다려주세요."
• "질문 감사합니다. 안내드릴게요."

단순히 친절해 보이기 위한 표현이 아니라, LLM이 제공하는 불안정하거나 모호한 응답을 감싸는 중요한 장치예요. 특히 반복된 폴백 시나리오에서는 사용자 피로감을 줄여주거나, 부정적 사용 경험을 완화하는 효과가 있어요.

실제 운영 결과에서 쿠션멘트가 포함된 응답은 포함되지 않은 응답보다 사용자 만족도와 피드백 지표가 더 높게 나타났어요. 사용자들은 "배려받는 느낌이다", "AI가 나를 신경 쓰는 것 같다"는 반응을 보이기도 했답니다.

⚖️ 파지티브 규제 vs 네거티브 규제: 자유도의 이중성

챗봇이 어떤 질문에 답해도 되는지, 어떤 질문은 막아야 하는지를 정하는 방식은 두 가지로 나뉘어요.

파지티브 규제 (Positive Regulation)

정해진 질문과 응답만 허용하는 화이트리스트 기반 방식이에요. '되는 거만 빼고 다 안 되기' 때문에 자유도가 낮아요.

네거티브 규제 (Negative Regulation)

금지된 항목만 차단하고, 그 외는 허용하는 블랙리스트 기반 방식이에요. '안 되는 거만 빼고 다 되기' 때문에 자유도가 높죠.

LLM 기반 챗봇은 자유도가 높기 때문에 네거티브 규제를 적용해야 하며, 민감 이슈나 출처 문제로 인해 일부 영역에서는 파지티브 규제를 혼합 적용하기도 해요. 금융, 의료, 법률같이 최신 지식 업데이트가 중요한 전문 도메인에서는 이 균형이 매우 중요해요.

🛡️ Safety 정책: 안전한 대화를 위한 필수 요소

AI 챗봇은 사용자와 직접적으로 상호작용하기 때문에, 적절한 안전 정책 설정이 필수예요.

차단해야 할 요소들:

• 욕설, 차별, 혐오 발언
• 개인정보 질문 (주민번호, 계좌번호 등)
• 자살/자해 등 심각한 이슈

해결 장치:

• 프롬프트 차단(input filtering): 리스크가 큰 경우 우선 적용
• 응답 차단(output filtering): 기본적으로 적용

특히 '아동 성착취, 혐오 및 차별' 관련해서는 면밀한 검토가 필요하며, 출시 전에 높은 수준의 내부 검수가 필요해요.

🔧 꼭 알아두면 좋은 추가 개념들

프롬프트 & 프롬프트 엔지니어링

프롬프트는 LLM에게 질문이나 지시를 내리는 문장이에요. "AI에게 말을 거는 방식"이라 생각하면 쉬워요.

예시:

• "이 글을 두 문장으로 요약해줘."
• "너는 친절한 고객센터야. 질문에 간결하게 답변해줘."

기획자는 단순히 질문을 적는 게 아니라, 어떤 맥락에서 어떤 톤으로 응답해야 할지를 고려해 프롬프트를 설계해야 해요.

싱글턴 vs 멀티턴

구분 설명 예시

싱글턴(Single-turn)	한 번의 질문과 응답으로 끝나는 단문 대화 구조	대부분의 고객센터, 쇼핑몰, 은행 챗봇
멀티턴(Multi-turn)	이전 대화 맥락을 기억하며 이어지는 연속 대화 구조	ChatGPT, Claude, Copilot 등 생성형 AI 서비스

현재 대부분의 상용 챗봇은 싱글턴 구조를 기반으로 구현되며, 멀티턴은 고도화 단계에서 도입돼요.

LLM의 한계: 환각(Hallucination)

LLM은 정답을 "검색"하는 게 아니라, 가장 그럴듯한 답을 생성해요. 그래서:

• 동일한 질문에도 응답이 달라질 수 있음 (비결정성)
• 실제 존재하지 않는 정보를 만들어낼 수 있음 (환각)

이런 이유로 정답이 반드시 고정되어야 하는 영역이나 민감한 주제에서는 Rule 기반 시나리오와 병행이 필요해요.

📊 시장 현황과 전망

현재 67%의 기업이 LLM을 사용하고 있으며, 2028년까지 85%의 기업이 콘텐츠 생성과 고객 서비스 작업에 LLM을 활용할 것으로 예측되는 상황에서, AI 챗봇 기획자의 역할은 더욱 중요해지고 있어요.

전 세계 챗봇 시장 규모는 2023년 57억 달러에서 2032년에는 346억 달러에 이를 것으로 예상되며, 연평균 성장률(CAGR) 21.5%를 기록할 것으로 전망돼요.

특히 주목할 점은 독립형 챗봇이 가장 큰 점유율을 차지했다는 것인데요. 이는 특정 플랫폼이나 환경과의 통합 없이 독립적으로 작동할 수 있는 챗봇에 대한 수요가 높다는 것을 의미해요.

📝 마무리하며

AI는 많은 걸 아는 존재지만, 정확히 어느 선에서 말해야 하는지를 몰라요. 그 기준을 설정하는 사람이 바로 우리, 기획자예요.

물론 기획자가 아주 잘 설계해놓고 계속 피드백까지 제공한다면 언젠간 정말 기획자가 필요 없어질지도 모르겠지만요. 하지만 적어도 지금은, 그리고 앞으로 상당 기간은 AI 챗봇을 제대로 기획하고 방향을 제시할 기획자의 역할이 더욱 중요해질 것 같아요.

이 글이 AI 챗봇 기획의 첫걸음을 떼는 분들께 작게나마 도움이 되기를 바라요. 함께 성장해나가요!