OpenAI의 '할라페뇨' 칩, 엔비디아 대비 추론 비용 50% 절감…AI 반도체 지각변동

OpenAI는 브로드컴과 공동 개발한 맞춤형 추론 프로세서 '할라페뇨(Jalapeño)'를 공개했다. 이 칩은 엔비디아 GPU 대비 운영 비용을 약 50% 절감할 수 있어 AI 데이터센터 시장에서 엔비디아의 지배력에 위협이 될 전망이다.

브로드컴의 호크 탄(Hock Tan) CEO는 인터뷰에서 "할라페뇨는 엔비디아의 블랙웰(Blackwell) 칩 및 구글의 TPU와 동등한 성능을 유지하면서도 약 절반의 비용으로 추론을 실행한다"고 말했다.

이 ASIC(주문형 반도체)은 대규모 연산 섹션과 6개의 고대역폭 메모리 스택을 결합해 대규모 언어 모델 내에서 데이터를 더 빠르게 이동시킨다. OpenAI에 따르면 초기 테스트 결과, 현재 대안 제품보다 와트당 성능이 "상당히 우수한" 것으로 나타났다. 다만 공정 노드, 클럭 속도, 메모리 구성은 아직 공개되지 않았다. 이 칩은 2026년 말까지 배치될 예정이다.

이번 움직임은 OpenAI가 희소성이 높은 엔비디아 GPU에 전적으로 의존하던 기존 방식을 벗어나는 첫 걸음이다. 추론 비용은 서비스 성공에 따라 지속적으로 증가하는 반복 비용이다. 모든 ChatGPT 쿼리, 모든 Codex 에이전트 단계마다 비용이 발생하며, 해당 작업에만 특화된 칩은 범용 프로세서가 필연적으로 갖출 수밖에 없는 불필요한 장치를 제거할 수 있다. OpenAI와 같은 규모로 모델을 서비스하는 기업에게 추론 비용을 절반으로 줄인다는 것은 사업의 경제학 자체를 바꾸는 일이다.

모든 맞춤형 칩 아래 자리한 브로드컴

이번 파트너십은 더 깊은 역학 관계를 드러낸다. OpenAI, 구글, 메타는 모두 브로드컴 아키텍처 기반으로 자체 맞춤형 AI 칩을 구축하고 있다. 이는 최첨단 모델 간의 치열한 경쟁을 이면에서 모든 기업을 받치는 브로드컴의 안정적인 수익원으로 전환시키는 구조다. 브로드컴은 2026 회계연도 1분기에 AI 칩 매출 84억 달러(약 11조 7,600억 원)를 기록했으며, 이는 전년 대비 106% 증가한 수치다. 경영진에 따르면 연간 AI 칩 매출 1,000억 달러(약 140조 원)를 향한 로드맵에 따라 730억 달러(약 102조 2,000억 원) 규모의 확정 발주 잔고를 보유하고 있다.

칩을 공동 설계한다는 것은 수년간의 공동 엔지니어링, 지식 재산권, 하드웨어 로드맵을 공유한다는 의미이며, 이는 첫 부품이 출하된 이후에도 오랫동안 연구소와 설계자를 묶어둔다. 구글은 약 10년 전 자체 AI 칩 설계를 시작했으며, 올해에야 7세대인 '아이언우드(Ironwood)'에 도달했다. 아이언우드는 추론 전용으로 특별히 제작된 구글의 첫 번째 TPU다. 할라페뇨는 OpenAI가 '멀티 세대 컴퓨팅 플랫폼'이라고 부르는 시스템의 1세대 칩이다.

엔비디아와 공급망에 미치는 의미

상용 공급업체들이 사라지는 것은 아니다. 초기 생산 물량만으로는 회사의 전체 수요를 충당하기 어려운 경우가 대부분이기 때문에, OpenAI는 할라페뇨가 본격 양산되는 동안에도 외부 공급업체로부터 추론 칩을 계속 구매할 것으로 보인다. 엔비디아는 여전히 학습(training) 워크로드 분야에서 지배력을 유지하고 있으며, 성능 집약적인 사전 학습(pre-training)은 당분간 엔비디아 하드웨어에 의존할 가능성이 높다.

이 모든 것의 제약 조건은 제조 역량이다. 이 칩들은 모두 고급 미세 공정과 컴퓨팅 및 메모리를 하나의 작동 부품으로 결합하는 특수 패키징을 위해 TSMC(대만 반도체)에 의존하고 있다. 이러한 패키징 용량은 2026년까지 이미 매진된 상태이며, 업계 전반의 수요는 공급을 훨씬 앞지르고 있다. OpenAI도 예외는 아니다. 모든 주요 기술 기업들과 함께 한정된 할당량을 두고 경쟁해야 한다.

약 35배의 선행 주가수익비율(P/E)로 거래되고 있는 엔비디아 주식은 모든 주요 AI 연구소가 자체 실리콘을 구축함에 따라 장기적인 내러티브 변화에 직면해 있다. 그러나 즉각적인 매출 영향은 수년 후에나 나타날 전망이다. 더 확실한 수혜자는 브로드컴이다. 브로드컴의 아키텍처는 동시에 빅테크 3사의 맞춤형 칩 프로그램 내부에 자리잡고 있기 때문이다. 칩에 새겨진 이름은 계속 바뀌겠지만, 그 칩을 설계하는 회사는 그대로 남는다.

본 기사는 정보 제공 목적으로 작성되었으며 투자 조언을 구성하지 않습니다.