🧠 암묵지를 데이터로 바꾸면 생긴다 — AI 시대 기업의 진짜 경쟁력

 

"AI 구독 다 해줬는데, 왜 우리 팀은 그대로일까요?"

이 말, 요즘 스타트업 대표님들이나 팀 리더분들 사이에서 정말 자주 들려요. 챗GPT 계정 만들어주고, 클로드 구독비 긁어주고, 사내 교육도 몇 번이나 진행했는데 체감 효율은 별로 안 달라졌다는 거죠.

그런데 이 문제, 사실 AI의 문제가 아닌 경우가 많아요. AI에게 줄 재료가 없었던 겁니다. 정확히는 암묵지(Tacit Knowledge)라는 재료요.

오늘은 채널톡의 AI 전환 사례를 토대로, 암묵지를 어떻게 데이터화하느냐가 왜 AI 시대 기업의 진짜 경쟁력인지 풀어볼게요.

암묵지가 뭔지 제대로 알고 시작해야 합니다

암묵지는 쉽게 말해 문서화되지 않은 노하우예요. 10년 차 상담사가 고객의 말투만 듣고도 어떤 유형인지 파악하는 능력, 베테랑 영업사원이 이번 계약은 될 것 같다는 느낌을 아는 직관, 숙련된 개발자가 코드를 보자마자 성능 이슈를 잡아내는 눈. 이런 게 전부 암묵지입니다.

문제는 이게 인터넷에도 없고, 회사 내부 문서에도 없고, 오직 그 사람의 머릿속에만 존재한다는 거예요.

AI는 이 암묵지가 없으면 제대로 작동하지 못해요. 아무리 좋은 모델을 써도 우리 회사만의 맥락과 노하우를 모르면 결국 범용 답변 기계에 그치고 맙니다. 이건 GPT 4o가 나쁜 게 아니라, 애초에 우리 회사 것이 없는 거예요.

빅테크 공세 앞에서, 중소 SaaS와 스타트업의 살길

지금 B2B SaaS 시장은 격변 중이에요. 마이크로소프트, 구글, 아마존 같은 빅테크들이 AI를 앞세워 기존 소프트웨어 시장에 무서운 속도로 진입하고 있거든요.

과거에 SaaS 원가율이 10~15%밖에 안 됨에도 높은 가격을 받을 수 있었던 건 개발 진입 장벽이 있었기 때문이에요. 그런데 이제 AI로 인해 개발이 쉬워지면서, 기업들이 직접 툴을 만들려는 움직임이 커지고 있어요. 소프트웨어 자체의 가격 방어가 무너지는 거죠.

반면 사람의 업무를 대체하거나 증강하는, 즉 인건비를 대체하는 에이전트를 만드는 회사들의 밸류에이션은 오히려 올라가고 있어요. 단순 소프트웨어 판매에서 실질적인 비즈니스 임팩트 창출로 게임의 룰 자체가 바뀐 겁니다.

이런 환경에서 중소 스타트업이 빅테크와 싸워 이길 수 있는 카드는 딱 하나예요. 빅테크도 가질 수 없는 것, 바로 그 회사만의 암묵지입니다.

AI 도입 실패의 두 가지 전형적인 패턴

채널톡이 AI 전환 초기에 겪은 실패 패턴은 많은 기업들이 똑같이 반복하고 있어요.

첫 번째는 전 직원 일괄 교육 방식이었어요. 매일 저녁 AI 교육, 툴 배포, 가이드 문서 제공. 그런데 기대만큼 안 됐어요. 사람마다 새로운 기술을 받아들이는 속도와 의지가 다르기 때문이에요. 누군가에겐 설레는 기회지만, 누군가에겐 그냥 추가 업무일 뿐이거든요.

두 번째는 소수 정예 AI 전문팀 구성이었어요. 이것도 세 가지 문제가 생겼어요. 전문팀이 현장 업무를 제대로 이해 못 하는 문제, 사람 머릿속에 있는 암묵지를 텍스트화하는 게 너무 어렵다는 문제, 그리고 계속 해결 요청이 쏟아지며 전문팀 자체가 번아웃되는 문제였죠.

결정적으로 이런 생각이 들었다고 해요. 우리 200명 중 10명만 AI를 잘 쓰는데, 경쟁사가 200명 전원이 AI를 잘 쓴다면? 그 위기감이 전략 전환의 계기가 됐습니다.

해법은 챔피언 육성과 성공 사례 만들기였다

채널톡이 찾아낸 해법은 부서별, 팀별 챔피언을 키우는 것이었어요. 특정 팀에서 실제 업무 문제를 AI로 해결하는 사람이 나오면, 그걸 동료들이 보면서 나도 한번 해볼까 하는 심리적 장벽이 무너진다는 거죠.

약 3개월간 1기 챔피언 교육을 진행한 결과, 예상치 못한 팀에서도 AI 활용 사례가 나오기 시작했어요. 핵심은 교육의 질이 아니라 실제 성공 사례를 눈앞에서 보여주는 것이었습니다.

이건 규모와 상관없이 어떤 조직에도 그대로 적용돼요. AI를 조직 전체로 퍼뜨리려면, 일단 주변에서 가장 열정적인 한 명을 잘 지원해서 성공 사례를 만들어내는 게 먼저입니다.

AI 시대 진짜 일잘러의 조건은 따로 있습니다

AI를 잘 쓰는 것과 AI 시대에 일을 잘 하는 건 다른 이야기예요. 진짜 일잘러는 AI 툴을 잘 다루는 사람이 아니라, 문제를 잘 정의하고 AI를 통해 큰 문제를 해결하는 사람입니다.

AI에게 일을 시키는 건 결국 정확한 디렉션을 주는 능력이에요. 그리고 디렉션을 잘 주려면 자신이 하는 일을 명확히 이해하고 설명할 수 있어야 해요. 즉, 자신의 암묵지를 언어화할 수 있는 사람이 AI를 가장 잘 활용할 수 있는 겁니다.

채널톡의 파이낸스 팀 사례가 인상적이었어요. 비용·매출 분류 업무를 AI로 자동화하려 했더니, 현장 담당자 외에는 그 업무 방식 자체를 이해 못 해서 프롬프트를 제대로 못 썼다고 해요. 결국 그 업무를 가장 잘 아는 사람이 직접 AI에게 지시를 내려야 했어요.

AI는 1을 10으로 만들어줄 수 있지만, 0에서 1을 만들지는 못한다. 내가 그 1을 갖고 있어야 한다는 거죠.

암묵지를 데이터로 만드는 파이프라인이 진짜 해자다

버티컬 AI 시대가 본격화되면서 암묵지 데이터화는 이제 선택이 아닌 필수가 됐어요. 피지컬 AI나 버티컬 AI를 구축하기 위해서는 특정 산업에 특화된 암묵지 데이터가 반드시 필요하거든요. 글로벌 LLM 기업들이 세상의 공개 데이터를 다 가져갈 수 있어도, 각 기업 직원들의 머릿속에만 있는 것은 가져갈 수 없습니다.

채널톡이 만들어낸 경쟁력의 핵심이 바로 이거예요. 고객사의 상담 데이터를 분석해서, 숙련 상담사들이 실제로 어떻게 업무를 처리하는지 그 암묵적인 흐름을 데이터로 뽑아내는 능력. 교환 업무를 처리하는 상담사들이 1~2년간 나눈 대화 기록을 분석하면, 그들이 의식하지 못하면서도 일관되게 따르는 패턴이 나와요. 이걸 표준 운영 절차 초안으로 만들어 고객사에 제공하면, 그 회사 직원들의 머릿속에만 있던 노하우가 처음으로 데이터가 되는 순간이 됩니다.

이 파이프라인 자체가 어떤 빅테크도 복제할 수 없는 해자(Moat)가 돼요.

2026년, 데이터 보유량보다 데이터 맥락이 승부를 가른다

포브스코리아가 발표한 2026 AI 트렌드에 따르면, 2026년에는 단순한 데이터 보유량이 아닌 데이터 연결성이 기업의 AI 경쟁력을 결정한다고 해요. AI가 즉각 참조할 수 있도록 정제된 정보, 즉 맥락이 담긴 데이터가 있어야 한다는 겁니다.

결국 AI에게 얼마나 많은 데이터를 줄 수 있느냐가 아니라, 얼마나 정확한 맥락의 데이터를 적시에 줄 수 있느냐가 기업 경쟁력의 핵심이 되는 거예요. 그리고 그 맥락 있는 데이터의 원천이 바로 암묵지입니다.

국내 AI 시장은 2034년까지 연평균 15.6% 이상 성장할 것으로 전망돼요. AI 도입 경쟁은 더 치열해질 텐데, 같은 AI 툴을 써도 어디에는 자기 회사만의 암묵지 데이터베이스가 쌓이고, 어디에는 아무것도 쌓이지 않는 차이가 생기는 겁니다.

개인에게도 똑같이 적용되는 이야기예요

이건 기업 수준에서만의 이야기가 아니에요. 개인에게도 그대로 적용돼요.

10년 동안 쌓은 특정 도메인의 노하우, 그 업계만의 용어와 맥락, 사람들이 어디서 막히고 어떻게 해결하는지에 대한 감각. 이런 것들이 AI 시대에 오히려 더 희소한 가치가 됩니다.

AI가 범용 지식을 다 커버하게 되면, 차별점은 결국 그 사람만의 도메인 지식에서 나와요. AI를 잘 쓰는 10명보다, 도메인을 깊이 아는 사람 1명이 AI를 쓸 때 더 무서운 결과물을 만들어냅니다.

내가 오래 쌓아온 경험이 짐이 아니라 무기가 되는 시대가 왔습니다.

마무리

AI를 어떤 툴로 쓸지, 얼마짜리 구독을 할지보다 훨씬 중요한 질문이 있어요. AI에게 무엇을 줄 것인가?

그 답이 바로 암묵지입니다. 내가, 우리 팀이, 우리 회사가 오랫동안 쌓아온 경험과 노하우를 언어화하고 데이터화하는 것. 그게 AI 전환의 진짜 첫 번째 단계예요.

지금 당장 시작할 수 있는 방법은 생각보다 단순해요. 오늘 내가 한 일을, 내가 어떻게 판단했고 왜 그런 선택을 했는지, 텍스트로 한 번 적어보는 것. 그게 암묵지 데이터화의 시작이고, AI 경쟁에서 살아남는 첫 번째 무기가 됩니다.