
"안다"고 생각했는데, 정작 아무것도 모르고 있었다
회의 중에 "서브에이전트", "컨텍스트 엔지니어링", "에이전트 메모리"라는 말이 나왔을 때, 고개를 끄덕이면서도 속으로는 '그게 실제로 어떻게 돌아가는 거지?' 하고 아리송했던 경험, 한 번쯤 있으시죠?
AI 영상도 보고, 인포그래픽도 북마크하고, 심지어 AI 기능을 직접 서비스에 출시해봤는데도 여전히 핵심을 놓치고 있다는 느낌이 드는 거, 절대 여러분 문제가 아닙니다. 솔직히 말하면, 대부분의 AI 콘텐츠는 진짜 이해를 도와주는 게 아니라 FOMO를 자극하도록 설계되어 있거든요.
그런데 요즘 AI 제품을 기획하고 개발하는 사람들 사이에서 완전히 다른 학습법이 주목받고 있어요. ChatGPT 같은 소비자용 UI를 벗어나, Cursor나 Claude Code 같은 AI 코딩 에이전트를 일상 업무에 활용하는 방법인데요. 코드를 한 줄도 짜지 않아도 됩니다. 오히려 도구를 쓰면서 AI가 어떻게 작동하는지 직접 몸으로 체득하는 게 핵심이에요.
ChatGPT는 계기판을 가려놓은 자동차입니다
ChatGPT나 Claude 같은 소비자용 AI는 정말 훌륭한 도구입니다. 근데 이 도구들에는 치명적인 한계가 있어요. AI 엔진이 어떻게 돌아가는지, 어떤 부품이 어떤 순서로 작동하는지, 컨텍스트가 얼마나 소모되는지 전혀 볼 수 없다는 점이죠. 마치 계기판을 가려놓은 채로 운전하는 것과 비슷해요.
반면 Cursor 같은 코딩 에이전트는 AI의 작동 과정을 투명하게 보여줍니다. AI가 어떤 도구를 호출하는지, 컨텍스트 윈도우가 어떻게 채워지는지, 에러가 났을 때 어떻게 복구하는지 실시간으로 관찰할 수 있거든요.
실제로 Cursor를 3개월간 일상 업무에 활용한 사람들이 "3년간 ChatGPT를 쓴 것보다 AI에 대해 훨씬 더 많이 배웠다"고 말하는 이유가 여기에 있습니다. 엔지니어들이 AI 애플리케이션을 만들 때 부딪히는 바로 그 문제를 직접 경험하고, 스스로 해결책을 찾다 보니 업계 트렌드까지 예측할 수 있게 되는 거예요.
Cursor, 알고 보면 여러분이 매일 쓰는 세 가지 도구의 조합
"코딩 에이전트라니, 저는 개발자가 아닌데요?" 걱정하지 않으셔도 돼요. Cursor는 사실 여러분이 매일 쓰는 세 가지 도구를 하나로 합쳐놓은 것뿐입니다.
첫째, ChatGPT처럼 대화할 수 있는 채팅창이 있어요. 둘째, 메모장이나 워드 같은 텍스트 에디터가 있고요. 셋째, 맥의 파인더나 윈도우 탐색기처럼 파일을 볼 수 있는 공간이 있습니다.
한 마디로 "내 컴퓨터의 모든 파일을 만질 수 있는 AI"라고 보면 됩니다. ChatGPT는 대화만 할 수 있지만, Cursor는 여러분의 파일을 직접 읽고 수정할 수 있어요. 그래서 매번 대화할 때마다 프로젝트 지식이 자동으로 업데이트되는 구조예요.
ChatGPT 프로젝트에서는 대화 내용을 복사해서 수동으로 지식 베이스에 붙여넣어야 하는 번거로움이 있죠. Cursor는 모든 결과물이 문서에 바로 저장됩니다. 대화 기록이 아니라 문서에 가치가 쌓이는 거예요.
AI가 실제로 어떻게 일하는지 들여다보기 — 도구 호출의 세계
여기서 AI를 이해하는 데 가장 중요한 개념이 등장합니다. LLM은 사실 텍스트만 생성할 수 있어요. 그런데 파일을 편집하고, 데이터를 가져오고, 웹을 검색하는 건 어떻게 할까요? 바로 "도구 호출"이라는 기능 덕분입니다.
Cursor에서 AI에게 작업을 시키면 이런 식으로 진행돼요. read_file이라는 도구로 파일 내용을 확인하고, 무엇을 편집할지 생각한 다음, search_replace라는 도구로 텍스트를 수정하는 거죠.
search_replace라는 이름이 생소하게 느껴지시나요? 사실 워드나 구글 독스에서 "찾기 및 바꾸기" 기능이 바로 그거예요. AI도 똑같은 방식으로 작동합니다.
더 재미있는 건 모델마다 도구 사용 방식이 완전히 다르다는 거예요. Claude 모델은 저작권에 민감해서 특정 작업을 거부하기도 하고, OpenAI 모델은 파일 편집 도구 호출에서 가끔 실수하기도 합니다. Gemini와 Opus를 비교하면 같은 작업을 처리하는 도구 호출 횟수도 달라요. 이런 차이를 직접 느끼면서 어떤 모델이 어떤 작업에 적합한지 자연스럽게 감을 잡게 됩니다.
MCP, 그냥 AI용 USB라고 생각하세요
요즘 자주 들리는 용어 중 "MCP"가 있어요. Model Context Protocol의 약자인데, USB나 블루투스 같은 표준 규격이라고 보면 됩니다.
대부분 기업의 중요한 데이터는 로컬 파일이 아니라 Linear, Figma, Notion, Snowflake 같은 외부 서비스에 있잖아요. AI가 이런 서비스와 소통하려면 각 서비스마다 전용 도구가 필요한데, 매번 따로 만들면 엄청난 중복 작업이 생겨요. 그래서 업계가 MCP라는 표준을 채택한 거예요.
각 서비스는 하나의 커넥터만 만들면 모든 곳에서 작동하게 됩니다. 에이전트가 사용할 수 있는 또 하나의 도구인데, 표준화된 인터페이스를 제공한다는 게 핵심이에요.
Cursor를 쓰다 보면 MCP 설정 화면을 자연스럽게 접하게 되고, 이게 어떤 역할을 하는지 직접 연결해보면서 이해하게 됩니다. 교과서로 배우는 것과는 완전히 다른 체감이에요.
RAG, 시험 전에 교과서 펼쳐보는 것과 같습니다
AI 제품이 틀린 답을 내놓으면 보통 모델 탓을 하기 마련이에요. 하지만 더 큰 모델이나 비싼 파인튜닝을 선택하기 전에, "이 AI가 애초에 올바른 정보를 갖고 있기는 한 걸까?"라고 먼저 물어봐야 합니다.
Cursor에서 AI에게 "이 저장소에 뭐가 있는지 설명해줄래?"라고 물으면, AI는 파일과 폴더를 검색해서 컨텍스트를 수집한 다음 답변합니다. 이게 바로 RAG, Retrieval Augmented Generation입니다.
거창하게 들리지만 사실 여러분이 평생 해온 행동이에요. 어려운 질문에 답하기 전에 자료를 찾아보는 거잖아요. AI 에이전트도 똑같이 하는 거예요.
Perplexity, Google AI Mode, Claude Code, Cursor 등 RAG라는 용어가 붙은 서비스들은 기본적으로 문서를 가져와서 대화를 시작하는 메커니즘을 쓰고 있어요. Cursor에서는 @ 기호로 특정 파일을 태그해서 AI가 참고하게 만들 수도 있고요.
AGENTS.md — AI의 기억력을 직접 설계하는 경험
LLM은 상태를 저장하지 않아요. 그래서 "멘사 수준의 천재인데 햄스터 수준의 단기 기억력을 가진 존재"라는 표현이 딱 맞아요. 매번 새로운 채팅은 백지상태에서 시작하니까, 연속성을 원한다면 직접 설계해야 합니다.
모든 코딩 에이전트는 AGENTS.md라는 규칙을 따릅니다. 이 마크다운 파일이 디렉토리에 있으면, 모든 채팅 스레드 맨 위에 자동으로 추가돼요.
여기서 중요한 포인트가 있어요. 메모리는 그냥 모든 대화 앞에 붙는 텍스트 파일입니다. 마법이 아니에요. 그런데 이게 의미하는 건, 메모리에도 비용이 든다는 거예요. AGENTS.md에 넣은 모든 내용이 매번 컨텍스트 윈도우 공간을 차지하거든요.
메모리가 너무 많으면 다른 것들을 위한 공간이 줄어듭니다. 그래서 무엇을 메모리에 넣을지 신중해야 해요. 항상 관련 있고 지속적으로 필요한 정보는 메모리에, 작업별로 필요한 정보는 RAG로 가져오는 방식으로 구분하는 거죠.
예를 들어 AGENTS.md에 이런 내용을 넣을 수 있어요. "나는 insurtech 스타트업의 기획팀 PM이다. 극도로 간결하게 작성하고, 굵은 글씨 없이 평평한 구조로 답변해라. 행동 편향을 가지고 불완전한 정보로도 결정을 내려라." 이런 지침 하나로 매번 같은 말을 반복하지 않아도 됩니다.
컨텍스트 윈도우 — AI의 작업 기억을 눈으로 보는 경험
메모리, RAG, 도구 정의, 대화 히스토리 모두 컨텍스트를 차지합니다. 이 한정된 공간을 어떻게 채울 것인가, 그게 바로 컨텍스트 엔지니어링이에요.
Cursor에서는 채팅창 하단에 작은 파이 차트로 컨텍스트 윈도우 사용량을 실시간으로 보여줍니다. 많은 사람들이 이걸 자동차 연료 게이지처럼 지켜보게 되더라고요. 20만 토큰이나 100만 토큰 컨텍스트 윈도우가 실제로 어떤 느낌인지, 얼마나 빨리 소진되는지 직관적으로 파악하게 됩니다.
특히 흥미로운 건 "컨텍스트 부패" 현상이에요. 컨텍스트를 많이 쓸수록 대화가 점점 멍청해지고 건망증이 심해진다는 걸 느끼게 됩니다. 최대치에 가까워지기 훨씬 전부터 말이에요. 창의적 브레인스토밍 같은 작업에서는 덜 느끼지만, 정밀한 분석이나 코딩에서는 훨씬 더 많이 느끼죠.
컨텍스트가 채워질수록 결과물의 품질을 관찰하고, 새 스레드를 시작하면 어떻게 달라지는지 비교해보는 과정이 마치 하이브리드 자동차에서 배터리에서 휘발유로 전환되는 순간을 알아채는 것처럼 재미있는 게임이 됩니다.
Cursor가 2025년 AI 교육의 핵심 도구가 된 이유
2025년 현재, Cursor 개발사인 Anysphere는 기업 가치 약 10조 원(약 99억 달러) 평가를 받고 있어요. 연간 반복 매출(ARR) 성장률이 전년 대비 6,400%를 기록했을 정도로 폭발적인 성장을 이뤄냈죠. Coinbase는 2025년 2월까지 전 엔지니어가 Cursor를 도입했고, 직접 비교 평가에서 엔지니어의 93%가 선호하는 AI 코딩 도구로 선택했을 만큼 실무 현장에서의 영향력이 커졌습니다.
국내에서도 주요 대기업들을 중심으로 파일럿 단계를 거쳐 본격적인 확산 국면에 들어서고 있어요. AI 코딩 어시스턴트 국내 시장은 2025년 기준 수백억 원 규모로 성장할 것으로 전망되고 있고요.
이런 배경 속에서 Cursor를 단순한 코딩 도구가 아니라 AI 제품을 이해하는 교육 도구로 활용하는 흐름이 생기고 있습니다. 개발자만을 위한 도구가 아니라 기획자, PM, 마케터, 컨설턴트 모두가 AI의 실체를 직접 체감할 수 있는 가장 현실적인 방법이 되고 있거든요.
마법의 베일을 벗기면 실체가 보입니다
진짜 AI 제품 이해는 매일매일 에이전트가 작동하는 걸 지켜보면서 쌓입니다. Cursor 덕분에 AI 모델이 컨텍스트를 읽고, RAG를 실행하고, 도구를 호출하고, 에러를 만나고, 추론하고, 다른 도구를 시도하는 모든 과정을 관찰할 수 있어요.
어느 순간 이런 깨달음이 찾아오게 됩니다. "Cursor도 다른 AI 제품과 똑같이 텍스트, 도구, 결과가 다시 텍스트로 흘러가는 구조로 만들어져 있구나. 다만 작동 과정을 지켜볼 수 있다는 차이뿐이구나."
일단 모든 AI 제품을 동일한 구성 요소로 분해할 수 있게 되면, AI 제품 감각은 자연스럽게 따라옵니다. 뭔가 인상적인 AI 기능이 등장해도 이제 여러분은 스스로 물을 수 있어요. "어떤 도구가 필요할까? 컨텍스트는 어떻게 설계됐을까? 내가 직접 재현한다면 어떤 부품들을 조립하게 될까?"
마법은 여전히 즐겁지만, 이제 신비함과 FOMO는 사라집니다.
마무리
AI 제품 감각을 키우는 가장 빠른 방법은 AI를 직접 손으로 만지며 배우는 거예요. ChatGPT만으로는 AI의 절반만 알 수 있습니다. Cursor를 일상 업무에 활용하면서 도구 호출, RAG, 메모리, 컨텍스트 윈도우를 직접 체감해보세요. 머릿속으로 아는 것과 손으로 만지며 배우는 건 완전히 다릅니다. 지금 당장 Cursor를 다운로드하고, 한 가지 작은 업무부터 시작해보세요. 미래에서 살아가는 첫 번째 발걸음이 될 거예요.
'IT > AI' 카테고리의 다른 글
| ☁️ 클라우드에 다 저장하면 된다? 2026년엔 그 생각이 독이 됩니다 (1) | 2026.03.12 |
|---|---|
| 🤖 2026년 엔터프라이즈 AI 시장, OpenAI vs Anthropic 본격 전쟁 시작됐다 (0) | 2026.03.12 |
| 🔄 AI 제품이 스스로 똑똑해지는 비밀, 플라이휠 전략 (1) | 2026.03.11 |
| 🎨 UI 디자이너를 위한 Nano Banana Pro 활용법, 실전 워크플로우와 프롬프트 예시까지 (0) | 2026.03.11 |
| 🚀 AI 격차의 시대: 왜 작은 회사가 대기업을 이기기 시작했을까? (0) | 2026.03.11 |