] HBM·소버린 AI·추론 전환…엔비디아가 한국을 필요로 하는 세 가지 신호
지난해는 깐부치킨이었다.
올해는 ‘형님 저요’였다. 젠슨 황 엔비디아 최고경영자(CEO)가 한국에서 고른 회동 장소다. 회식을 마친 일행은 모여든 시민에게 간식을 던졌다. 세계 시가총액 1위 기업의 수장이 한 일이다.
언론은 ‘선물’이라고 불렀다. 지난해 방한 때 “한국이 기뻐할 발표가 있다”고 하자 ‘선물’이라 했다. 올해 “4가지 비즈니스를 갖고 왔다”고 하자 ‘4개의 선물’이라 했다.
젠슨 황은 사업하러 왔다고 했다. 그런데 우리는 선물 받은 사람처럼 굴었다.
장면을 하나 더 보자.
6월 8일 저녁, 서울 신라호텔. 비공개 만찬 ‘코리아 AI 에코시스템’. 삼성전자·SK하이닉스부터 서울대·KAIST, 정부, 벤처캐피털까지 200여 명이 모였다. 젠슨 황의 첫마디는 이랬다.
“지금 이 자리에 있는 스타트업들에 당장 투자하세요.”
그는 한국 스타트업 몇 곳을 콕 집어 “엣지(edge) 있다”고 했다. “1년 뒤엔 10배 성장해 있을 것”이라고도 했다. 슈퍼갑의 공개 칭찬이다.
왜 그럴까. 왜 세계 최고의 슈퍼갑이 만면에 웃음을 띠고, 쇼맨십까지 보여줘야 할까.
답은 다른 곳에서 나왔다.
같은 주, 태평양 건너편.
엔비디아가 200억 달러어치 회사채를 발행했다. 약 30조 원. 2021년 이후 5년 만이다. 돈을 쓸어 담는 회사가 왜 빚을 낼까.
신용평가사들은 “현금이 부족해서가 아니다”라고 한다. AA 등급을 지키면서, 전략적 AI 파트너십에 쓸 실탄을 미리 확보하려는 포석이라고 설명한다. 엔비디아는 지난해 인텔 지분에 50억 달러, 앤트로픽에 100억 달러를 넣었다. 올해 2월엔 오픈AI와 300억 달러 투자에 합의했다.
칩만 팔던 회사가, 생태계를 사들이고 있다.
같은 날 또 다른 소식이 나왔다. 미국 IT 매체 디인포메이션 집계다. 엔비디아의 AI ‘추론’ 칩 점유율이 1년 새 66%에서 74%로 올랐다. 추론 칩 시장은 분기 560억 달러. 그중 410억 달러가 엔비디아 몫이다.
겉으로 보면 무적이다. 속을 보면 다르다.
첫 번째 신호. HBM이다.
엔비디아의 차세대 로드맵은 SK하이닉스 없이 굴러가지 않는다.
올 하반기 나올 ‘베라 루빈’은 HBM4를 처음 쓴다. 2028년 ‘파인만’은 기가와트급 AI 공장을 겨냥한다. (※ HBM은 고대역폭메모리. D램을 수직으로 쌓아 데이터를 초고속으로 퍼 나르는 메모리다.) 칩이 빨라질수록 메모리가 못 따라가는 ‘메모리 장벽’이 커진다. 이 벽을 허무는 게 HBM이다.
엔비디아는 이 부품을 절대적으로 한국에 의존한다.
SK하이닉스와는 2030년까지 장기 공급 동맹을 맺었다. 단순 수주가 아니다. 엔비디아가 매년 5억 4000만~7억 7000만 달러를 선급금으로 미리 준다. SK하이닉스가 설비를 바꾸다 생기는 위험을 같이 떠안는 구조다. 갑이 을의 리스크를 나눠 진다.
세계 HBM 시장에서 SK하이닉스 점유율은 60%를 넘는다. 삼성전자도 추격 중이다. 두 회사가 제때 HBM을 못 내놓으면, 엔비디아의 슈퍼서버 로드맵 전체가 멈춘다.
누가 누구에게 매달리는 구도인가.
두 번째 신호. 소버린 AI다.
엔비디아 매출의 85% 이상이 데이터센터에서 나온다. 문제는 쏠림이다. 아마존·MS·구글·메타 4개 회사가 매출의 약 40%를 책임진다. (※ ‘하이퍼스케일러’는 초대형 클라우드 사업자다.) 이들이 투자를 줄이면 엔비디아가 흔들린다.
그래서 새 시장이 필요하다. ‘소버린 AI’가 가장 유력한 새 시장이다. (※ 소버린 AI는 한 나라가 자국 데이터와 언어로, 자국 영토 안에 짓는 AI 인프라다. 데이터 주권 개념이다.) 정부가 고객이니 경기를 덜 탄다. 이 매출은 2025년에만 100억 달러를 넘었다.
한국은 그 모범 시장이다.
지난해 10월, 한국 정부와 기업들은 블랙웰 GPU 26만 장을 단계적으로 받기로 합의했다. 약 14조 원. 정부가 2030년까지 잡았던 목표 5만 장의 5배가 넘는다. 과학기술정보통신부는 2조 800억 원을 투입해 공공 인프라부터 짓는다. 삼성·SK·현대차·네이버가 나머지를 나눠 쓴다.
젠슨 황이 한국에서 보여준 ‘브로 마케팅’은 이런 배경에서 작동한다. 26만 장짜리 고객에게 웃지 않을 갑은 없다.
세 번째 신호. 추론과 생태계다.
AI를 사용하기 위해선 ‘AI 학습’과 ‘AI 추론’ 단계를 거친다.
학습은 AI를 가르치는 단계다. 엄청난 자료를 먹여 똑똑하게 만든다. 큰 힘이 들지만, 딱 한 번이면 된다. 추론은 그렇게 똑똑해진 AI가 답을 내놓는 단계다. 우리가 챗봇에 뭘 물어볼 때마다 작동한다. 매일, 수억 번 반복된다.
엔비디아는 AI학습 단계에서 압도적인 힘을 발휘했다. 이 과정에서 CUDA라는 소프트웨어가 자리잡았다. 엔비디아 제국의 진짜 토대다. 엔비디아 칩을 다루는 조작법이 CUDA다. 개발자가 한번 손에 익으면 못 바꾼다. 아이폰 쓰던 사람이 안드로이드로 넘어가기 싫은 것과 같다. 이걸 ‘록인(lock-in·잠김) 효과’라 한다.
그런데 추론 시대가 오면 CUDA 왕국에 균열이 생길 수밖에 없다.
학습엔 뭐든 잘하는 만능 칩이 필요하다. 엔비디아 GPU가 그렇다. 추론 단계는 다르다. 특정 조건에 따라 특정 작업을 위해 필요한 맞춤형 칩이 훨씬 뛰어난 결과를 낸다. 필요한 동작만 잘하기 때문에 값도 더 싸다. 전기도 덜 먹는다.
초거대 기업이 이 시장에 뛰어 들었다. 직접 칩을 만들기 시작했다. 각각 자기 회사 AI 서비스에 최적화한 추론용 칩을 만들기 시작했다. 구글은 TPU, 아마존은 인퍼렌시아, 마이크로소프트는 마이아다. 한국 스타트업도 뛰어들었다. 리벨리온과 퓨리오사AI다. 리벨리온은 기업가치 14억 달러를 인정받았다. 퓨리오사AI는 메타가 인수를 타진한 그 기업이다. 작은 회사지만, 엔비디아가 비운 틈을 노린다.
엔비디아는 CUDA 주도의 AI 칩이 흔들릴 수 있다는 신호로 여긴다. 그래서 새 울타리가 필요하다. 칩만 팔던 회사가 영역을 넓힌다. 가상 공장(옴니버스), 로봇, 현실에서 움직이는 AI까지. 200억 달러 회사채는 그 군자금이다. 젠슨 황이 한국 스타트업에 “당장 투자하라”고 외친 것도 같은 그림이다. 다음 전쟁터에 한국을 미리 끌어들이는 작업이다.
정리하면 이렇다.
한국이 엔비디아를 필요로 하던 시대였다. 이제 엔비디아가 한국을 필요로 한다. HBM이 없으면 로드맵이 멈추고, 소버린 시장이 없으면 쏠림이 위험하고, 새 생태계가 없으면 CUDA 독점이 흔들린다.
슈퍼갑의 웃음은 그래서 나왔다.
다만 착각은 금물이다. 종속은 양방향이다. 한국의 소버린 인프라는 엔비디아의 CUDA와 하드웨어 설계에 통째로 묶여 있다. 우리가 받은 26만 장은, 갈아탈 수 없는 26만 장이기도 하다.
선물은 던져주는 것이 아니다.
거래는 마주 보고 하는 것이다. 누가 더 아쉬운지, 이제 우리도 계산할 때가 됐다.