엔비디아 의존, 이렇게 줄인다
— MS, 3세대 AI칩 ‘마이아 300’ 내년 100만 개 투입
메가와트당 연산량 40% 개선을 내세운 마이크로소프트의 반격, 빅테크의 ‘탈엔비디아’ 경쟁이 본격화됐다
마이크로소프트가 12일(현지시간) 미국 캘리포니아 산호세에서 열린 OCP 글로벌 서밋에서 3세대 자체 설계 AI 반도체 ‘마이아(Maia) 300’을 공개했다. 내년부터 코파일럿 등 자사 서비스의 추론(inference) 연산을 전담하는 핵심 칩으로 삼아, 데이터센터에 100만 개 이상을 투입하겠다는 계획도 함께 내놨다. 엔비디아·AMD에서 사들이던 GPU 대신 자체 설계 칩의 비중을 끌어올려 비용을 낮추려는 전략이 한층 뚜렷해진 모습이다.
산호세에서 꺼낸 세 번째 칩
로이터 등에 따르면 마이크로소프트는 12일 OCP(오픈 컴퓨트 프로젝트) 글로벌 서밋에서 마이아 300을 선보이며, 내년부터 이 칩을 기가와트 규모로 데이터센터에 확대 배치하겠다고 밝혔다. 로이터는 이 회사가 내년 안에 마이아 300을 100만 개 이상 투입할 수 있다고 전했다. 마이아 300은 2023년 처음 공개된 마이아 시리즈의 세 번째 세대로, 중앙 연산 칩렛은 TSMC의 2나노급 공정으로, 나머지 칩렛은 3나노 공정으로 제작된다.
마이아 300 랙은 칩 96개로 구성되며 전력 소비량은 약 167kW다. 로이터는 이를 엔비디아의 GB300 랙(GPU 72개, 약 142kW)과 비교하며, 마이크로소프트가 “주요 GPU 기반 시스템”보다 메가와트당 약 40% 더 많은 유효 연산을 처리할 수 있다고 주장했다고 전했다. 다만 마이크로소프트는 구체적으로 어떤 시스템과 비교한 수치인지는 밝히지 않았다.
왜 지금, ‘추론 전담’ 칩인가
마이아 300은 학습(training)이 아니라 추론, 즉 이미 학습된 모델이 실제 답변을 생성하는 연산에 특화했다. 장문 컨텍스트 추론, 대화형 AI, 다단계 에이전트 작업을 겨냥했다는 설명이다. 전작인 마이아 200은 이미 마이크로소프트 데이터센터에서 가동되며 코파일럿, OpenAI 모델, 자체 개발한 MAI 모델, 오픈소스 모델 등을 뒷받침하고 있고, 깃허브 코파일럿과 마이크로소프트 파운드리도 연말까지 마이아 200으로 이전될 예정이다.
랙 단위로 비교하면
마이아 300 랙 = 칩 96개 · 약 167kW. 엔비디아 GB300 랙 = GPU 72개 · 약 142kW. 마이크로소프트는 자사 칩이 메가와트당 처리량에서 우위에 있다고 주장하지만, 비교 대상 GPU 시스템의 구체적 사양은 공개하지 않았다.
마이크로소프트의 애저 하드웨어 시스템·인프라 부문을 이끄는 라니 보커(Rani Borkar) 사장은 로이터와의 인터뷰에서 이번 전환의 목표를 다음과 같이 설명했다.
“전체 시스템을 최적화해 와트당, 달러당, 메모리 바이트당 더 많은 지능을 제공하는 것”
마이크로소프트는 올해 캐피털 익스펜디처(설비투자)로 1,750억 달러 이상을 쓸 것으로 예상된다. 자체 칩 비중을 늘리는 것은 이 같은 막대한 AI 투자 부담을 조금이라도 낮추려는 시도로 해석된다.
엔비디아 시대는 끝났나
마이크로소프트의 이번 발표는 구글, 아마존, 메타 등 주요 클라우드 기업들이 잇따라 자체 AI 칩을 내놓는 흐름의 연장선에 있다. 로이터는 이런 자체 칩 경쟁이 “AI 컴퓨팅 시장에서 엔비디아의 지배력을 느슨하게 만들려는” 시도라고 짚었다. 추가 세부 사양은 11월 17~20일 샌프란시스코에서 열리는 마이크로소프트 이그나이트 행사에서 공개될 예정이다.
그렇다고 엔비디아의 입지가 당장 흔들리는 것은 아니다. 업계 분석가들은 대형 클라우드 기업들이 엔비디아 칩 구매를 완전히 중단하기는 어려울 것이라고 조심스러운 전망을 내놓고 있다. 엔비디아 매출의 절반 이상이 여전히 이런 하이퍼스케일러(대형 클라우드 사업자)에서 나오고 있기 때문이다. 마이아 300 역시 학습이 아닌 추론 영역에 한정된 칩이라는 점도, 엔비디아 GPU에 대한 전면적 대체가 아니라는 해석에 힘을 보탠다.
100만 개의 자체 칩과 여전히 절반 이상을 차지하는 엔비디아 매출 — 두 숫자는 ‘탈엔비디아’가 선언이 아니라 수년에 걸친 점진적 재편이라는 사실을 보여준다.