오픈AI, 첫 자체 AI칩 '할라페뇨' 공개…엔비디아 의존 줄이기 시동

[경제일보] 오픈AI가 브로드컴과 공동 개발한 첫 자체 AI 반도체 ‘할라페뇨’를 공개했다. 챗GPT와 코덱스 등 대형 AI 서비스를 운영하며 커진 추론 비용을 낮추고 엔비디아 GPU 의존도를 줄이려는 전략이다.

외신에 따르면 오픈AI와 브로드컴은 24일 현지시간 추론 특화 AI 칩 할라페뇨를 공개했다. 할라페뇨는 범용 GPU를 개량한 제품이 아니라 대형언어모델 추론을 위해 처음부터 설계한 맞춤형 반도체다. 오픈AI는 올해 말부터 이 칩을 데이터센터에 배치할 계획이다.

AI 반도체 시장에서 추론은 새 격전지로 떠올랐다. 모델을 학습시키는 단계에는 막대한 연산 자원이 필요하지만 실제 서비스에서는 이용자 요청에 답하는 추론 비용이 계속 발생한다. 챗GPT처럼 글로벌 이용자가 많은 서비스는 추론 효율이 곧 운영비와 수익성에 직결된다.

오픈AI는 초기 테스트에서 할라페뇨의 전력 대비 성능이 기존 최상위 AI 칩보다 개선됐다고 밝혔다. 브로드컴의 호크 탄 최고경영자는 외신 인터뷰에서 엔비디아 블랙웰과 구글 TPU에 견줄 성능을 언급했다. 다만 양사는 최종 성능 측정이 진행 중이라며 세부 수치는 공개하지 않았다. 실제 경쟁력은 데이터센터 배치 이후 전력 효율과 안정성, 단가가 확인돼야 판단할 수 있다.

이번 공개는 오픈AI의 풀스택 전략과 맞물린다. 오픈AI는 모델과 서비스뿐 아니라 칩과 메모리 시스템, 네트워크, 데이터센터 운영까지 직접 통제하려는 방향으로 움직이고 있다. AI 서비스 이용량이 커질수록 외부 GPU 공급에만 의존하기 어렵기 때문이다. 공급 부족과 높은 가격, 전력 부담은 AI 기업의 공통 과제다.

빅테크의 자체 칩 개발도 같은 흐름이다. 구글은 TPU를 통해 자사 AI 모델과 클라우드 서비스에 맞춘 연산 인프라를 구축했다. 아마존은 학습용 트레이니움과 추론용 인퍼런시아를 운영하고 있다. 마이크로소프트와 메타도 자체 AI 가속기 개발에 투자하고 있다. 오픈AI의 할라페뇨 공개는 이 대열에 본격 합류했다는 신호다.

엔비디아에 미칠 영향은 단기적으로 제한적이라는 시각이 많다. 자체 칩은 특정 서비스와 추론 환경에 최적화되는 경우가 많다. 대규모 학습과 범용 AI 인프라에서는 엔비디아 GPU의 생태계와 소프트웨어 경쟁력이 여전히 강하다. 다만 추론 영역에서 맞춤형 ASIC이 늘어나면 AI 반도체 시장의 성장 축은 더 넓어질 수 있다.

국내 반도체 업계에도 파급력이 있다. 빅테크가 자체 AI 칩을 늘리면 고대역폭메모리와 첨단 패키징 수요도 함께 커진다. 삼성전자와 SK하이닉스 같은 메모리 기업에는 새로운 고객군이 늘어나는 효과가 기대된다. 다만 할라페뇨에 어떤 HBM이 탑재됐는지는 공개자료 기준으로 확인되지 않아 특정 공급사를 단정하기는 어렵다.

오픈AI의 과제는 기술 공개 이후 수익성 입증이다. 자체 칩이 실제로 추론 비용을 낮추고 서비스 속도와 안정성을 높여야 한다. IPO 가능성이 시장에서 거론되는 만큼 인프라 비용을 통제할 수 있다는 점도 투자자에게 중요한 메시지가 될 수 있다.

AI 경쟁은 모델 성능만으로 끝나지 않는다. 더 좋은 답을 더 싸고 빠르게 제공하는 인프라 경쟁으로 옮겨가고 있다. 할라페뇨는 오픈AI가 엔비디아 생태계에서 벗어나겠다는 선언이라기보다 비용과 성능을 직접 통제하려는 첫 시도에 가깝다. 이 칩이 데이터센터에서 검증되면 AI 반도체 시장은 GPU 중심에서 맞춤형 추론 칩 경쟁으로 한 단계 더 갈라질 전망이다.