AI 제품의 기다림 문제, 챗GPT·클로드가 40년 된 UX 법칙을 어기고 있다

AI 채팅창에서 딴 탭 열어본 적 있으신가요?

질문을 입력하고 엔터를 눌렀습니다. 빙글빙글 돌아가는 로딩 아이콘이 보입니다. 기다리다 지쳐 유튜브 탭을 열었습니다. 40여 초 뒤 돌아와 보니 답변이 나와 있었는데, 이미 질문의 맥락이 흐릿해진 상태였습니다. 결국 같은 질문을 다시 입력했습니다.

이게 딱 한 번만 있었던 일이라면 괜찮습니다. 하지만 이 패턴이 반복된다면 이야기가 달라집니다.

UX(사용자 경험, User Experience) 리서처 Adi Leviim이 실제 사용자 세션 녹화를 분석한 결과, 이 현상은 특정 사람의 집중력 문제가 아니었습니다. AI 제품 전체가 40년도 넘은 UX 법칙을 집단적으로 무시하고 있다는 결론이었습니다.

그 법칙의 이름은 "도허티 임계값(Doherty Threshold)"입니다.

오늘은 챗GPT, 클로드 같은 AI 서비스들이 왜 이 오래된 원칙을 여전히 지키지 못하고 있는지, 그리고 그게 우리 사용자 경험에 어떤 영향을 미치는지 풀어보겠습니다.

한 줄 정리: AI 써다가 딴 탭으로 도망가는 건 당신 탓이 아니라 설계 탓입니다.

---

도허티 임계값이란, 1982년에 이미 답이 나와 있었습니다

1982년, IBM 연구자 Walter J. Doherty와 Ahrvind Thadani는 IBM 시스템 저널에 논문 한 편을 발표했습니다.

핵심 내용은 단순합니다. 컴퓨터가 사용자 입력에 400밀리초(ms, 1ms는 0.001초) 이내로 반응하면 생산성이 극적으로 올라간다는 것입니다. 400ms는 0.4초입니다. 눈을 한 번 깜빡이는 시간보다 짧습니다.

이것이 바로 도허티 임계값입니다. UX 업계에서는 Laws of UX(UX 법칙 모음)라는 이름으로 정리된 대표 원칙 중 하나입니다.

수치로 정리하면 이렇습니다. 0.4초 이하에서는 사용자가 시스템과 생산적인 흐름을 유지합니다. 반응이 10초를 넘으면 주의가 화면에서 완전히 이탈합니다.

그런데 2023년과 2024년에 쏟아진 주요 AI 제품들은 이 임계값을 지키지 못했습니다. 2025년부터 본격화된 AI 에이전트(Agent)는 이 임계값을 분 단위로 넘어섭니다. 수조 원을 들여 만든 AI 서비스들이 40년 전 논문이 밝혀낸 숫자를 아직도 해결하지 못하고 있다는 이야기입니다.

한 줄 정리: 0.4초 안에 반응이 없으면 인간의 뇌는 이미 다른 곳을 향합니다.

---

AI가 느린 건 어쩔 수 없다는 오해를 먼저 짚어드립니다

많은 분들이 이렇게 생각합니다. "AI가 복잡한 연산을 하는데 빠른 게 당연히 어렵지." 틀린 말은 아닙니다. 대형 언어 모델(LLM, Large Language Model, 방대한 텍스트 데이터로 학습된 AI 언어 시스템)이 답변을 생성하는 데는 실제로 수 초에서 수십 초가 걸립니다.

하지만 도허티 임계값이 요구하는 것은 "답변 자체가 0.4초 안에 나와야 한다"는 뜻이 아닙니다. "0.4초 안에 뭔가 반응을 보여줘야 한다"는 것입니다.

차이가 있습니다.

사용자가 엔터를 눌렀을 때 즉각적인 시각 피드백, 예를 들어 텍스트 수신 신호, 타이핑 애니메이션, 진행 표시줄 같은 것이 없으면 뇌는 "내 입력이 전달됐나?"라는 불확실성에 빠집니다. 그 순간부터 주의가 흩어지기 시작합니다.

챗GPT나 클로드도 실시간 스트리밍 방식으로 답변을 조금씩 보여주는 건 맞습니다. 하지만 첫 번째 글자가 화면에 등장하기까지 걸리는 시간, 전문 용어로 TTFT(Time to First Token, 첫 토큰 출력까지 걸리는 시간)가 수 초에 달하는 경우가 많습니다. 그 공백 구간에 사용자는 이미 탭을 바꾸기 시작합니다.

한 줄 정리: 느린 게 문제가 아니라, "기다리고 있다"는 신호를 안 주는 게 문제입니다.

---

에이전트 시대에는 대기 문제가 분 단위가 됩니다

2025년 이후 AI 에이전트가 본격적으로 등장했습니다. 에이전트란 사용자 대신 여러 작업을 자율적으로 수행하는 AI를 말합니다. "이번 달 보고서 정리해서 이메일로 보내줘"라고 말하면, AI가 파일을 열고, 내용을 분석하고, 요약하고, 이메일까지 보내는 일련의 과정을 혼자 처리합니다.

문제는 이 과정이 수 분에서 수십 분이 걸린다는 점입니다.

도허티 임계값 기준으로 보면, 이건 임계값을 초 단위로 넘는 게 아니라 분 단위로 넘는 겁니다. 사용자 입장에서는 "잘 돌아가고 있는 건지", "에러가 난 건지", "내가 뭔가 잘못 입력한 건지" 도무지 알 수가 없습니다.

실제 리서치에서도 이 현상이 확인됐습니다. 사용자가 이미 완료된 AI 답변을 보지 못하고 같은 질문을 다시 입력하는 패턴이 반복됐습니다. 첫 번째 응답이 화면 어딘가에 있었지만, 다른 탭을 돌아다니다 돌아온 사용자는 맥락을 잃어버린 상태였던 것입니다.

한 줄 정리: AI 에이전트가 강력해질수록, 기다리는 문제는 더 심각해집니다.

---

사람들이 놓치는 것, 대기는 UX 문제가 아니라 신뢰 문제입니다

로딩이 길어질 때 우리가 느끼는 감정은 단순한 불편함이 아닙니다. 불확실성입니다. "내 요청이 제대로 전달됐나?", "AI가 잘못 이해한 건 아닐까?", "이 결과가 맞긴 한 건가?"

이 불확실성이 신뢰를 갉아먹습니다.

흥미롭게도, 연구에 따르면 진행 과정을 보여주는 것만으로도 신뢰도와 만족도가 유의미하게 올라갑니다. 진행률이 정확하지 않아도 괜찮습니다. "AI가 지금 무언가를 하고 있다"는 시각적 신호만으로도 사용자는 안도감을 느낍니다.

반대로 아무 피드백 없이 수 초가 지나가면, 사람들은 자연스럽게 시스템을 불신하기 시작합니다. "이 AI 좀 별로네"라는 평가로 이어집니다. 실제 성능이 뛰어나도 말이죠.

AI 서비스 입장에서는 억울한 일입니다. 좋은 답변을 만들어 내고 있는데, 기다리는 경험을 설계하지 않은 탓에 나쁜 AI로 인식되는 겁니다.

한 줄 정리: 기다림을 잘 설계하지 못하면, 좋은 AI도 나쁜 AI처럼 느껴집니다.

---

잘 된 사례들, 어떻게 다를까요?

이미 이 문제를 잘 해결한 서비스들이 있습니다.

Deliveroo(딜리버루)라는 영국의 음식 배달 서비스는 검색 결과가 400ms 이상 걸릴 때 즉각적으로 재미있는 로딩 애니메이션을 보여줍니다. 실제 결과가 늦게 나오더라도, 사용자는 "지금 열심히 찾고 있다"는 신호를 받고 기다릴 수 있습니다.

Perplexity AI(퍼플렉시티, AI 검색 서비스)는 검색하는 동안 "지금 이 사이트들을 참조 중입니다"라고 실시간으로 보여줍니다. 단순한 로딩 스피너와 비교하면 사용자 경험이 전혀 다릅니다. 기다리는 시간이 같아도, 무엇을 하고 있는지 알면 체감 시간이 줄어듭니다.

클로드의 Extended Thinking(확장 사고) 기능은 "생각 중"이라는 상태를 접었다 펼칠 수 있는 형태로 보여줍니다. 완벽하지는 않지만, 대기 시간을 의미 있게 채우려는 시도입니다.

이 사례들의 공통점은 "응답을 빠르게 만드는 것"과 "빠르다고 느끼게 만드는 것"을 동시에 추구한다는 점입니다. 전문 용어로 퍼시브드 퍼포먼스(Perceived Performance, 체감 속도)라고 합니다.

한 줄 정리: 진짜 속도를 높이는 것과, 빠르다고 느끼게 만드는 것은 다른 전략입니다.

---

AI 제품을 만든다면 지금 당장 점검해야 할 것들

이 문제는 디자이너만의 과제가 아닙니다. 기획자, 개발자, PO(Product Owner, 제품 책임자) 모두가 함께 고민해야 할 영역입니다.

점검해볼 항목은 네 가지입니다.

첫 번째, 사용자가 입력을 보낸 순간부터 400ms 이내에 어떤 시각 피드백이 나타나는지 확인하세요. 아무 반응이 없다면 즉시 개선이 필요합니다.

두 번째, AI가 작업 중일 때 사용자는 무엇을 보고 있는지 살펴보세요. 단순 스피너(빙글빙글 도는 로딩 원)인지, 아니면 진행 상황을 알 수 있는 무언가가 있는지 확인합니다.

세 번째, 에이전트 작업처럼 오래 걸리는 태스크에서 중간 상태를 어떻게 보여주는지 점검하세요. 사용자가 이탈했다가 돌아왔을 때 결과를 쉽게 찾을 수 있는지도 중요합니다.

네 번째, 작업이 완료됐을 때 알림이 있는지 확인하세요. 탭을 바꿔 다른 일을 하고 있는 사용자에게 완료를 알려주는 수단이 있는지가 핵심입니다.

이 네 가지를 점검하는 것만으로도 AI 제품의 체감 품질이 크게 달라집니다.

한 줄 정리: AI 응답 품질만큼, 대기 경험의 품질도 제품 완성도를 결정합니다.

---

앞으로 AI UX는 어떻게 바뀔까요?

AI 에이전트가 점점 더 복잡한 작업을 수행하게 되면서 대기 문제는 더 심각해질 수밖에 없습니다. IBM의 분석에 따르면 2026년은 멀티 에이전트 시스템이 실제 상용화 단계로 진입하는 해입니다. 에이전트가 늘어날수록, 기다리는 시간도 함께 늘어납니다.

이 문제를 먼저 잘 해결한 제품이 경쟁 우위를 갖게 됩니다.

가장 유망한 방향은 두 가지입니다.

첫 번째는 비동기(Async) 인터페이스입니다. 오래 걸리는 작업은 백그라운드에서 처리하고, 완료됐을 때 푸시 알림으로 알려주는 방식입니다. 사용자는 기다리지 않아도 됩니다.

두 번째는 작업 과정의 투명화입니다. 에이전트가 지금 어떤 단계를 수행 중인지, 얼마나 남았는지, 무엇을 참조했는지 실시간으로 보여주는 것입니다. "처리 중"이 아니라 "3단계 중 2단계 완료, 지금 데이터 요약 중"처럼 구체적인 상태 표시가 핵심입니다.

1982년에 나온 400ms 법칙은 2026년에도 유효합니다. AI 시대에 오히려 더 중요해졌습니다. 기술이 강력해질수록, 기다리는 경험을 어떻게 설계하느냐가 제품의 인상을 결정하게 됩니다.

한 줄 정리: AI가 강력해질수록, 기다림을 설계하는 능력이 제품 경쟁력이 됩니다.

---

마무리

AI 제품이 느리다는 건 어쩔 수 없는 전제입니다. 하지만 "느린데 좋은 경험"과 "느린데 나쁜 경험"은 설계의 차이입니다. 40년 전 IBM 연구자가 측정한 0.4초라는 숫자는, 오늘날 수천억 원을 들인 AI 서비스들이 아직도 해결하지 못한 숙제입니다.

AI 제품을 만들고 있거나 도입을 고민하고 있다면, 응답 품질만큼 대기 경험의 품질도 체크리스트에 넣어보세요. 그게 사용자 이탈을 막고 신뢰를 만드는 가장 빠른 방법입니다.

좋은 AI 제품은 빠른 AI가 아니라, 기다림마저 잘 설계된 AI입니다.