엔비디아 큰손도 구글 칩으로 눈 돌렸다…오픈AI, TPU 구매 추진

[경제일보] 오픈AI가 구글의 인공지능(AI) 반도체 구매를 추진한다. 엔비디아의 주요 고객인 오픈AI가 경쟁사 칩으로 공급망을 넓히면서 AI 인프라 시장의 경쟁도 가열될 전망이다. 모델 성능을 높이는 데 필요한 연산 능력뿐 아니라 서비스 운영비와 전력 효율을 확보하는 일이 핵심 과제로 떠올랐다.

미국 정보기술 전문매체 디인포메이션은 27일(현지시간) 소식통을 인용해 오픈AI가 구글의 텐서처리장치(TPU)를 구매할 계획이라고 보도했다. 구매금액과 물량, 도입 일정 등 구체적인 거래 조건은 공개되지 않았다.

실무 준비 움직임도 확인됐다. 오픈AI는 공식 채용 홈페이지에 최첨단 모델의 TPU 최적화를 이끌 엔지니어 모집 공고를 게시했다. 모델 코드부터 연산 커널, 하드웨어 실행까지 성능을 개선하고 응답 지연과 처리량, 장비 활용률을 최적화하는 업무다. TPU 기반 학습이나 추론 경험을 모두 지원 요건으로 제시했다.

구글이 자체 개발한 TPU는 AI 학습과 추론에 특화한 반도체다. 구글은 칩과 네트워크, 냉각, 소프트웨어를 함께 설계해 전력당 성능과 운영 효율을 높이는 전략을 펴고 있다.

TPU의 판매·서비스 경로도 확대되고 있다. 오라클과 구글은 같은 날 오라클 클라우드 인프라(OCI)에서 내년부터 TPU를 제공한다고 발표했다. 구글 외 대형 클라우드 플랫폼이 TPU를 제공하는 첫 사례다. 공급 규모는 고객 수요에 맞춰 여러 해에 걸쳐 확대할 계획이다.

오라클은 TPU를 운용할 전력과 냉각, 데이터센터 네트워크를 제공한다. 기업 고객은 기존 데이터를 오라클 환경에 둔 채 업무 특성에 맞춰 GPU와 TPU를 선택할 수 있게 된다. 구글로서는 자체 클라우드의 고객을 넘어 AI 반도체 사업을 확장하는 통로를 확보한 셈이다.

오픈AI의 움직임은 급증하는 연산 수요와 비용 부담을 함께 풀려는 전략으로 읽힌다. AI가 답변을 생성하는 추론은 서비스 이용이 늘수록 반복적으로 비용이 발생한다. 업무별로 적합한 칩을 배치하면 공급 부족에 대응하면서 운영비를 줄일 여지가 생긴다.

엔비디아와의 협력도 이어지고 있다. 엔비디아는 지난 8월 오픈AI가 사용할 오하이오주 데이터센터 사업에 최대 1050억달러의 신용 지원을 제공하기로 했다. 젠슨 황 최고경영자는 오픈AI의 인프라 도입 계획이 2030년까지 약 6000억달러의 사업 기회가 될 수 있다고 밝혔다.

공급 다변화의 성패는 실제 운영 성과에 달렸다. 칩을 바꾸려면 모델과 소프트웨어를 최적화하고 기존 장비와의 성능·비용을 비교해야 한다. 오픈AI가 모집하는 TPU 전문인력도 이 전환 비용을 낮추는 역할을 맡게 된다.

메모리 업계에도 변화가 예상된다. TPU 역시 고대역폭메모리(HBM)를 사용하는 만큼 공급 확대는 수요 기반을 넓힐 수 있다. 향후 경쟁의 기준은 칩 판매가격을 넘어 응답 한 건당 비용, 전력 소비, 안정적인 공급 능력으로 확장될 전망이다.