🍰 AI는 5층 케이크다? 젠슨 황이 직접 설명한 AI 산업의 구조

 

AI를 '챗봇 싸움'으로만 보고 있지 않으신가요?

요즘 AI 이야기를 하면 자연스럽게 챗GPT, 클로드, 제미나이 같은 대화형 서비스들이 떠오르죠. 매일 쓰는 도구들이니까요. 그런데 엔비디아의 CEO 젠슨 황(Jensen Huang)이 GTC 2026 키노트에서 아주 흥미로운 발언을 꺼냈습니다.

"이번 컨퍼런스는 AI라는 5단 케이크(five-layer cake)의 모든 층을 아우를 것이다."

단순한 비유가 아닙니다. AI를 모델 몇 개의 경쟁으로만 바라보는 시각을 완전히 뒤집는 선언이에요. 그는 AI 산업 전체의 구조를 에너지, 칩, 인프라, 모델, 애플리케이션으로 이어지는 5단 케이크 구조로 정의했습니다. 오늘은 이 프레임이 왜 중요한지, 그리고 우리가 AI를 이해하는 데 어떤 도움이 되는지 하나씩 풀어볼게요.

1층: 에너지 — AI는 사실 '전기 먹는 괴물'입니다

많은 분들이 AI를 디지털 소프트웨어 산업으로만 생각하시는데요, 실상은 전혀 다릅니다. AI는 어마어마한 전력을 소비하는 철저히 물리적인 산업이에요.

국제에너지기구(IEA)에 따르면, 전 세계 데이터센터 전력 소비량은 2024년 약 415TWh에서 2030년 약 945TWh로 두 배 이상 증가할 전망이에요. 국내도 예외가 아닙니다. 한국IDC는 국내 데이터센터 전력 수요가 2025년 4,461MW에서 2028년까지 6,175MW로, 연평균 11% 증가할 것으로 내다봤어요.

대형 언어 모델 하나를 학습시키려면 수천에서 수만 개의 GPU가 수 주일 동안 쉬지 않고 돌아가야 합니다. 칩을 식히는 냉각 시스템도 전체 전력 소비의 30~40%를 차지하죠. 최근 수냉식, 액체 냉각 같은 기술들이 주목받는 이유가 바로 여기에 있어요.

AI의 출발점은 AGI 같은 거창한 개념이 아니라 전기와 냉각, 부지와 설비라는 아주 고전적인 인프라 문제라는 거예요.

2층: 칩 — GPU 스펙 싸움이 전부가 아니다

AI 칩 경쟁이라고 하면 보통 "어느 회사 GPU가 더 빠른가"만 따지곤 합니다. 그런데 젠슨 황의 시각은 다릅니다.

실제 AI 성능은 단순한 연산 속도만으로 결정되지 않아요. 메모리 대역폭, 칩 간 연결 방식, 패키징 설계, 전력 효율, 그리고 소프트웨어 최적화까지 모든 것이 합쳐진 결과거든요. 젠슨 황이 직접 강조했어요. "AI가 작동하려면 단기, 작업, 장기 메모리가 모두 필요하며, 메모리는 AI의 매우 큰 부분"이라고요.

그래서 엔비디아는 스스로를 "GPU 회사가 아닌 AI 팩토리를 설계하는 회사"라고 부릅니다. HBM과 GPU를 연결하고, GPU끼리 NVLink로 묶고, 서버 간을 연결하는 전체 구조를 설계하는 것이 진짜 경쟁력이라는 거죠.

여기서 SK하이닉스 이야기가 등장합니다. GTC 2026 현장에서 젠슨 황은 SK하이닉스 부스를 직접 찾아 HBM4 시제품에 사인을 남기며 "정말 잘하고 있다, 자랑스럽다"고 칭찬했어요. 칩 성능 경쟁의 핵심에 한국 메모리 기업이 깊이 관여하고 있다는 방증이죠.

3층: 인프라 — '몇 기가와트 규모' 시대

빅테크 기업들이 왜 데이터센터에 수백조 원을 쏟아붓고 있을까요? 그 답이 바로 3층 인프라에 있습니다.

GPU 한 장을 사서 꽂는 게 아니에요. 수천 개의 GPU를 스토리지, 냉각 설비, 전력 분배 시스템, 클러스터 운영 소프트웨어와 함께 유기적으로 연결해야 하는 시대가 됐습니다. 젠슨 황이 설명한 것처럼, 과거 대형 데이터센터가 수십 메가와트 규모였다면 이제는 수백 메가와트에서 기가와트급 전력 규모로 확대되고 있어요. 그래서 요즘 AI 계약을 발표할 때 "GPU 몇 개"가 아니라 "몇 기가와트 규모"로 표현하는 거예요.

가트너 보고서에 따르면, 2026년 글로벌 AI 지출은 약 2.52조 달러에 달할 전망인데, 이 중 인프라 부문이 전체의 54%를 차지한다고 해요. AI 투자의 절반 이상이 실은 하드웨어 인프라에 흘러들어가고 있다는 거죠.

4층: 모델 — 중요하지 않다고? 절대 그렇지 않아요

젠슨 황의 5층 케이크 구조에서 모델 레이어는 약간 '덜 중요한 것처럼' 들릴 수 있어요. 하지만 그건 어디까지나 엔비디아의 관점에서 인프라를 강조하기 위한 프레이밍일 뿐입니다.

실제로 챗GPT, 클로드, 제미나이 같은 모델들의 품질 차이는 사용자 경험에 직접적인 영향을 미칩니다. 더 정교한 추론, 더 정확한 답변, 더 자연스러운 대화는 모델 성능에서 나오니까요.

젠슨 황이 강조하는 포인트는 이거예요. 아무리 좋은 모델이라도 그것을 학습시키고 서비스할 인프라가 없으면 존재할 수 없다는 것. 모델은 케이크 위에 올라가는 중요한 층이지만, 아래 세 층이 탄탄해야 올라갈 수 있다는 거죠.

그래서 엔비디아도 최근 네모트론(Nemotron), 코스모스(Cosmos), 바이오네모(BioNeMo) 등 다양한 모델 패밀리를 직접 만드는 '네모트론 연합(Nemotron Coalition)'을 발족했어요. 인프라 회사가 모델 레이어까지 손을 뻗기 시작한 거예요.

5층: 애플리케이션 — 돈이 실제로 도는 곳

마지막 5층은 우리가 실제로 사용하는 AI 서비스들이 자리한 곳입니다. AI SaaS 기업들, 각종 버티컬 AI 애플리케이션들이 여기에 해당해요.

2025년 벤처캐피털의 AI 기업 투자액은 기록적인 수준인 1,927억 달러를 돌파했는데요, 이 중 상당 부분이 헬스케어, 로보틱스 같은 AI 네이티브 애플리케이션 기업들에 집중됐습니다. 애플리케이션 레이어가 가장 큰 경제적 가치를 창출하는 곳이라는 거죠.

엔비디아가 이 레이어를 5층 케이크에 포함시킨 이유가 있어요. 애플리케이션이 활성화되어야 수익이 나고, 수익이 나야 빅테크들이 인프라에 투자하고, 그 투자가 다시 칩과 에너지 수요를 만드는 선순환 구조가 완성되기 때문이에요. 케이크의 맨 위 층이 무너지면 아래 층들도 흔들립니다.

사람들이 놓치는 것: 이 구조가 한국에 시사하는 바

이 5층 케이크를 한국 기업들 관점에서 바라보면 흥미로운 그림이 나옵니다.

1층(에너지)과 3층(인프라)에서는 국내 데이터센터 수도권 집중 문제와 계통 병목이 실제 성장의 발목을 잡을 수 있어요. 실제로 수도권 내 데이터센터 전력계통영향평가를 통과한 신청 건수가 전체의 2%에 불과했다는 보도도 있어요.

반면 2층(칩)에서는 SK하이닉스와 삼성전자가 HBM을 통해 글로벌 AI 인프라의 핵심 고리로 자리 잡고 있습니다. 최태원 SK 회장이 GTC 2026에 직접 참석해 젠슨 황과 파트너십을 확인했고, 2030년까지 글로벌 웨이퍼 공급이 약 20% 부족할 것이라는 전망도 한국 메모리 기업들에게는 구조적 기회입니다.

5층(애플리케이션)에서는 아직 글로벌 경쟁력을 가진 한국 AI 서비스 기업들이 많지 않다는 것이 솔직한 현실이에요. 이 층에서의 경쟁력을 어떻게 키울 것인가가 국내 AI 산업의 진짜 숙제입니다.

AI 버블론에 대한 새로운 시각

젠슨 황이 이 5층 케이크를 꺼낸 타이밍은 우연이 아닙니다. AI 투자 과열 논란, GPU 과잉 투자 우려가 쏟아지는 시점에 우리는 인프라를 새로 짓고 있다는 프레임을 제시한 거예요.

전기, 냉각, 데이터센터, 칩 연결 구조까지 이 모든 것은 인터넷 혁명 이전에 통신 인프라를 깔았던 것처럼, AI 시대의 새로운 기간산업을 구축하는 과정이라는 거죠.

물론 젠슨 황의 시각은 엔비디아에게 유리한 방향으로 기울어져 있습니다. 하지만 AI를 모델 경쟁의 시각에서만 보던 분들에게, 이 5층 케이크는 AI 산업 전체를 이해하는 아주 유용한 지도가 됩니다.

저장하고 싶은 문장: AI 투자의 절반은 모델이 아니라 전기와 냉각에 들어간다. 저장하고 싶은 문장: 케이크 위층이 화려해 보여도, 아래 층이 없으면 올라갈 수 없다. 저장하고 싶은 문장: 경쟁의 무게중심은 이미 모델에서 인프라로 이동하고 있다.

마무리

AI는 소프트웨어 트렌드가 아닙니다. 에너지부터 반도체, 데이터센터, 모델, 애플리케이션까지 연결된 거대한 산업 스택이에요. 젠슨 황의 5층 케이크 이론은 완벽하지 않지만, 지금 왜 빅테크들이 전기를 따지고, 냉각을 따지고, 칩 연결 방식을 따지는지를 이해하는 데 아주 좋은 출발점이 됩니다.

AI에 투자하든, 서비스를 만들든, 그냥 트렌드를 읽든 이 구조를 알고 있으면 뉴스 한 줄 한 줄이 훨씬 다르게 보일 거예요. 다음에 "기가와트 규모 투자"라는 뉴스를 보게 된다면, 이제 그게 어느 층 이야기인지 바로 떠오를 겁니다.