본문 바로가기
300x250
반응형

전체 글1749

AI 코딩 비용 절감, 토큰을 줄일수록 오히려 늘어나는 이유 토큰 아꼈는데 청구서는 그대로인 이유AI 코딩 에이전트를 팀에서 도입해보신 분이라면 한 번쯤 겪어보셨을 겁니다. 출력을 짧게 줄이라고 설정을 바꿨는데, 정작 월말 청구서를 열어보면 금액이 그대로거나 오히려 늘어 있는 경험이요.토큰, 즉 AI가 글을 처리하는 최소 단위를 줄이면 당연히 비용도 줄어야 하는데 실제로는 반대 결과가 나오는 경우가 많습니다. 최근 깃허브 코파일럿 팀이 이 문제를 정면으로 다룬 글을 냈는데요, 결론부터 말하면 짧은 출력이 항상 저렴한 건 아니라는 이야기입니다. 출력을 줄였는데 비용이 그대로라면, 토큰 개수가 아니라 작업 전체를 봐야 할 때입니다.토큰이 뭔지 먼저 짚고 갈게요본격적인 이야기 전에 용어 하나만 짚을게요. 토큰은 AI 모델이 글을 읽고 쓸 때 계산하는 최소 단위입니다. .. 2026. 9. 25.
클로드 코드가 뜬 진짜 이유, AI 에이전트가 똑똑해질수록 사람이 더 바빠지는 역설 AI 에이전트, 왜 요즘 유난히 난리일까요작년 크리스마스 즈음부터였던 것 같아요. 개발자들 사이에서 "어? 이거 진짜 되네?" 하는 이야기가 갑자기 여기저기서 터져 나왔습니다.클로드 코드, 챗지피티 코덱스 같은 도구들이 실무에서 정말 쓸 만해졌다는 체험담이 쏟아졌어요. 저도 처음엔 그냥 마케팅용 과장인가 싶었는데, 막상 써보니 확실히 이전과는 다르더라구요.트랜스포머 구조를 만든 연구자 중 한 명인 우카시 카이저도 올해 6월 팟캐스트에서 비슷한 얘기를 했습니다. 지난겨울 뭔가 큰 변화가 있었는데, 정확히 뭐가 그 변화를 만들었는지는 콕 집어 말하기 어렵다는 내용이었어요.모델이 좋아진 걸까요, 도구가 좋아진 걸까요. 정답은 둘 다입니다. 그리고 그 답 안에 앞으로 AI를 어떻게 써야 할지에 대한 힌트가 숨어.. 2026. 9. 25.
포워드 디플로이드 엔지니어(FDE) 열풍, 팔란티어가 13년째 못 버리는 이유 채용 공고에 낯선 직함이 늘고 있는 이유최근 채용 사이트를 훑어보면 낯선 직함 하나가 눈에 자꾸 걸립니다.포워드 디플로이드 엔지니어, 줄여서 FDE입니다.고객 현장에 직접 들어가서 문제를 풀면서 제품을 만들어내는 엔지니어를 뜻하는데요, 저도 처음 이 직함을 봤을 때는 세일즈 엔지니어나 컨설턴트랑 뭐가 다른가 싶었어요.그런데 채용 데이터를 들여다보면 그냥 스쳐 지나갈 유행어가 아니라는 게 금방 드러납니다.FDE는 원래 팔란티어에서 나온 개념입니다이 개념을 처음 만든 곳은 데이터 분석 기업 팔란티어입니다.일반 소프트웨어 엔지니어는 본사에서 여러 고객이 두루 쓸 범용 제품을 만드는 데 집중하죠.반면 FDE는 특정 고객 옆에 딱 붙어서 그 고객의 문제를 실제로 풀어내는 것부터 시작합니다.팔란티어에서 13년째 수.. 2026. 9. 25.
AI가 개발 장벽을 낮춘 뒤, 리더가 더 먼저 물어야 할 질문 회의 중 아이디어가 몇 시간 만에 화면이 되는 요즘회의 중에 누군가 "이런 기능 하나 있으면 좋겠는데요"라고 던지면, 예전엔 곧바로 인력, 일정, 예산부터 계산했죠. 요즘은 다릅니다. 자리로 돌아가 AI 도구를 열고, 점심 먹고 오면 실제로 눌러볼 수 있는 화면이 나와 있는 경우가 흔해졌어요.속도가 빨라진 건 확실히 반가운 일이에요. 그런데 저는 오히려 이 지점에서 질문 하나가 더 중요해졌다고 느낍니다. 이 아이디어, 왜 여태 세상에 없었을까 하는 질문이요. AI가 막혀 있던 길을 뚫어준 건지, 아니면 원래 우리 조직이 잘 만들지 못하던 영역이었는지, 이 둘을 구분하는 게 생각보다 많은 걸 알려줍니다.바이브코딩이란 정확히 뭘까요즘 이 흐름을 부르는 이름이 바이브코딩이에요. 2025년 2월, 오픈AI 공동.. 2026. 9. 24.
전략적 사고, 나폴레옹은 알았는데 왜 우리 조직은 매번 늦을까 회의실에서 조용히 묻힌 그 한마디회의가 끝나고 나면 이런 생각이 드실 때 있으시죠."두 달 전에 내가 말했던 그 문제, 결국 이렇게 터지네."분명히 신호는 있었어요. 데이터도 있었고 감도 있었습니다. 그런데 그 순간에는 아무도 진지하게 듣지 않았더라구요.플랫폼 기획이나 스타트업 조직에서 일해보신 분이라면 한 번쯤 겪어보셨을 장면일 거예요. 왜 옳은 이야기를 미리 했는데도 조직은 항상 뒤늦게 움직일까요.최근 이 질문에 답을 주는 두 글을 봤어요. 하나는 역사 속 전략가 나폴레옹 이야기고, 다른 하나는 조직 심리에 관한 칼럼이었습니다. 오늘은 이 두 이야기를 엮어서 전략적 사고가 실제로 무엇을 의미하는지 정리해볼게요.문제를 미리 본 사람이 있어도 조직이 늦게 반응하는 이유는, 전략적 사고와 조직문화 사이에 .. 2026. 9. 24.
AI 에이전트 시대, 제품도 팀도 나도 기준이 바뀌는 이유 요즘 유독 지치고, 고객은 말없이 멀어집니다최근 해외 비즈니스 매체 세 곳에서 거의 동시에 비슷한 이야기가 나왔습니다.한 곳은 번아웃을 다뤘습니다. 근무일수를 주 3일로 줄인 사람이 오히려 더 지쳐 있다는 내용이었습니다.다른 한 곳은 스타트업 조직 설계를 다뤘습니다. 고객사에 직접 투입되는 엔지니어, 이른바 포워드 디플로이드 엔지니어가 점점 창업자에 가까운 역할로 바뀌고 있다는 내용이었습니다.마지막 한 곳은 고객 경험을 다뤘습니다. 제품은 그대로인데 고객이 조용히 떠날 준비를 한다는 내용이었습니다.업종도 주제도 전혀 다른 세 이야기인데, 자세히 들여다보면 한 문장으로 요약되더라구요. 기준이 조용히 바뀌고 있는데, 우리는 예전 기준으로 스스로를 평가하고 있다는 겁니다.오늘은 이 세 가지를 제품, 조직, 개.. 2026. 9. 24.
300x250
반응형