KAIST 찾은 '구글의 전설' 제프 딘…"AI 경쟁, 결국 컴퓨팅 효율 싸움"

[경제일보] 인공지능(AI) 산업의 경쟁 구도가 거대언어모델(LLM)의 성능 경쟁에서 컴퓨팅 자원을 얼마나 확보하고 효율적으로 활용하느냐의 경쟁으로 이동하고 있다. 구글에서 27년간 AI와 컴퓨팅 인프라의 발전을 이끌었던 제프 딘이 한국에서 던진 메시지도 여기에 집중됐다.

딘은 지난 13일 서울 AI 허브에서 열린 특별강연에서 “향후 몇 년간 AI 발전의 핵심은 하드웨어와 컴퓨팅 자원을 얼마나 확보하고 효율적으로 사용하는가에 달려 있다”고 강조했다. 단순히 더 큰 모델을 만드는 것만으로 AI 경쟁력을 확보하기 어려워지고 있다는 의미다.

이번 강연은 딘이 구글을 떠난 뒤 사실상 첫 공식 행보라는 점에서도 주목받았다. KAIST와 국가AI연구거점의 공동 초청으로 마련된 행사에는 KAIST를 비롯해 고려대·연세대·포스텍 등 컨소시엄 대학의 연구진과 학생, 기업 관계자 등 150여명이 참석했고 온라인으로도 220여명이 참여했다.

딘은 1999년 구글에 합류한 이후 검색 인프라를 비롯해 구글의 AI 연구 기반을 구축한 핵심 인물이다. 분산 시스템 연구를 기반으로 대규모 연산을 효율적으로 처리하는 기술을 발전시켰고, 텐서플로와 구글의 AI 전용 반도체인 TPU 개발에도 관여했다. 최근까지는 구글 수석과학자로 차세대 AI 모델 제미나이 개발을 이끌었다.

그런 그가 구글을 떠나 과학 연구를 위한 AI 스타트업 ‘디스커버리 루프’를 창업하면서 업계의 관심이 집중됐다. 구글과 같은 빅테크의 최고 수준 연구 환경을 떠나 새로운 회사를 선택한 만큼, 그의 이번 발언은 단순한 기술 전망 이상의 의미를 갖는다.

◆ AI의 다음 병목은 ‘모델’보다 ‘연산’

딘이 강조한 것은 AI 발전을 바라보는 시각 자체의 변화다.

그는 학부 시절 신경망 학습을 연구했지만 당시 컴퓨팅 성능의 한계 때문에 연구 성과를 내기 어려웠고, 20여년이 지나 충분한 연산 자원이 확보되면서 당시 아이디어가 현실화됐다고 설명했다.

지난 15년간 AI의 발전 역시 특정한 알고리즘 하나가 등장했기 때문이라기보다 연산 능력·데이터·모델 규모가 함께 확대된 결과라는 것이 그의 설명이다.

이 발언은 현재 AI 산업의 경쟁 구도를 정확히 관통한다. 챗GPT를 비롯한 생성형 AI가 대중화된 이후 기업들은 더 많은 데이터를 학습시키고 더 큰 모델을 구축하는 방식으로 경쟁해왔다. 그러나 모델 규모가 커질수록 학습과 추론에 필요한 컴퓨팅 비용도 폭증한다.

결국 AI 모델을 얼마나 잘 만드는가와 동시에 필요한 연산량을 얼마나 적은 비용으로 처리할 수 있는가가 기업 경쟁력의 핵심이 된다.

엔비디아가 AI 가속기 시장을 장악한 것도 같은 맥락이다. 구글이 자체 TPU를 개발한 이유 역시 외부 반도체에만 의존하지 않고 AI 연산 구조에 맞는 하드웨어와 소프트웨어를 함께 최적화하기 위해서였다.

딘의 경력 자체가 이를 보여준다. 대규모 분산 시스템을 연구하던 컴퓨터과학자가 구글에서 TPU와 AI 시스템 개발에 참여한 것은 AI가 발전할수록 모델과 반도체, 데이터센터, 소프트웨어를 하나의 시스템으로 설계해야 한다는 흐름과 맞닿아 있다.

◆ 한국 AI도 ‘모델 개발’ 이후를 준비해야

이번 딘의 KAIST 방문은 국내 AI 산업에도 시사하는 바가 크다. 한국의 AI 전략은 그동안 자체 파운데이션 모델 확보와 GPU 확보에 상당한 무게가 실렸다. 하지만 모델을 하나 확보한다고 AI 경쟁력이 완성되는 것은 아니다. 대규모 모델을 학습시키고 실제 서비스에 적용하기 위해서는 GPU와 AI 반도체, 데이터센터, 네트워크, 저장장치, 소프트웨어 등 전체 시스템을 효율적으로 연결해야 한다.

KAIST가 추진하는 ‘AI 시스템 이니셔티브’ 역시 이 지점에 초점을 맞추고 있다. AI 모델 자체뿐 아니라 하드웨어와 시스템 소프트웨어를 함께 최적화해 제한된 컴퓨팅 자원을 최대한 활용하는 것이 목표다.

최근 글로벌 빅테크와 KAIST의 협력이 이어지는 것도 주목할 부분이다. 엔비디아가 KAIST와 AI 공동연구소 및 피지컬AI센터 설립을 추진한 데 이어 구글의 핵심 AI 연구자가 직접 KAIST를 찾아 연구진과 분산 시스템과 AI 인프라를 논의했다.

이는 한국이 AI 모델 경쟁에서 단순히 해외 기술을 활용하는 수준을 넘어 AI 시스템 전체를 연구할 수 있는 기반을 확보해야 한다는 신호로 해석할 수 있다.

딘이 강연에서 “AI가 인간을 대체하느냐”는 질문에 인간과 AI가 각자의 강점을 활용하는 것이 중요하다고 답한 것도 같은 맥락이다. AI를 인간의 대체재로만 볼 것이 아니라 인간이 해결하지 못했던 문제를 풀기 위한 연구 도구로 활용해야 한다는 것이다.

그가 창업한 디스커버리 루프가 과학 연구를 AI의 주요 적용 분야로 삼은 것도 의미가 있다. AI가 검색과 문서 작성, 코딩을 넘어 신약과 소재, 물리학 등 과학적 발견의 속도를 높이는 방향으로 확장될 경우 필요한 컴퓨팅 규모는 지금보다 더욱 커질 수밖에 없다.

한편 딘이 한국에서 던진 메시지는 명확하다. AI 경쟁의 다음 승부처는 더 큰 모델을 만드는 데서 끝나지 않는다. 얼마나 많은 연산 자원을 확보하고, 이를 얼마나 효율적으로 연결하고 활용하느냐가 관건이다.

한국이 AI 강국을 목표로 한다면 GPU 확보량이나 국산 모델 개발 성과만을 경쟁력의 기준으로 삼아서는 안 된다. 반도체부터 데이터센터, 네트워크, 분산 시스템, 모델까지 이어지는 ‘AI 풀스택’ 경쟁력을 확보해야 한다.

27년간 구글의 AI 역사를 만들어온 연구자가 퇴사 직후 한국에서 가장 먼저 강조한 것도 결국 이 지점이었다. AI 시대의 진짜 경쟁은 모델의 크기가 아니라 그것을 움직이는 시스템의 경쟁으로 넘어가고 있다.