AI 반도체 시장, 학습용서 추론용으로 신전선...엔비디아 천하, 흔들리나

WSJ "AI 칩 시장, 복잡·고가 학습용서 텍스트·영상 대량생산 추론용으로 이동"
추론용 점유율 10%서 20%로 성장 전망
"추론용 성장, 엔비디아 경쟁사에 기회"
AI 칩 시장 점유율 80% 엔비디아 천하 당분간 지속

21일(현지시간) 미국 뉴욕 타임스퀘어의 나스닥 스크린에 엔비디아의 실적 발표 예고와 관련된 뉴스가 표시되고 있다./UPI·연합뉴스

미국 앤비디아가 전 세계 인공지능(AI) 반도체 시장에서 80%의 압도적인 점유율을 기록하고 있지만, AI 칩 전쟁이 학습용에서 추론용이라는 새로운 전선으로 이동하고 있다고 월스트리트저널(WSJ)이 25일(현지시간) 진단했다.

엔비디아는 AI 모델을 학습하는 엄청나게 복잡한 작업에 필수적인 칩을 공급함으로써 시총 2조달러의 회사로 성장했는데 AI 시장이 빠르게 발전함에 따라 급속하게 증가하는 실제 생성 AI 도구 사용 기업 및 사람들에 대해 학습된 AI 모델을 실행해 텍스트와 영상을 대량 생성하는 칩을 판매하는 기업에 더 큰 기회가 있을 것이라고 WSJ은 분석했다.

실제 이러한 변화가 엔비디아의 폭발적인 매출을 견인하고 있다. 콜레트 크레스 최고 재무책임자(CFO)는 지난해 매출 470억달러를 돌파한 엔비디아 데이터센터 사업 중 40% 이상이 AI 학습이 아니라 추론 작업을 수행하는 시스템 배치에서 발생했다고 지난 21일 밝혔다.

데이터센터 사업은 엔비디아 매출의 대부분을 차지하고 있으며, 지난해 4분기에는 409% 증가했다. 추론용 반도체는 엔비디아를 AI 붐의 선두주자로 이끈 학습용 반도체보다는 덜 강력하며 저렴하다. 추론 작업이 학습 AI 모델에 새로운 정보를 처리하고, 응답하도록 요청하는 보다 가벼운 일이기 때문이다.

크레스 CFO의 실적 공개는 추론 작업을 수행하는 AI 시스템 배치용 칩으로의 전환이 엔비디아의 입지를 위협할 것이라는 일부의 우려를 누그러뜨렸다고 WSJ은 평가했다.

미국 반도체 기업 엔비디아의 그래픽 처리 장치(GPU)로 23일(현지시간) 프랑스 파리에서 촬영된 사진./AFP·연합뉴스

하지만 엔비디아의 많은 경쟁사들은 추론용 칩의 중요성이 커짐에 따라 AI 시장에서 더 나은 기회를 잡을 수 있다고 보고 있다.

데이터센터에 들어가는 중앙처리장치(CPU)를 만드는 인텔은 고객들이 AI 모델 운영비 절감에 집중하면서 자사 반도체가 점점 더 매력적으로 될 것이라고 기대한다.

인텔이 전문으로 하는 반도체들은 이미 추론에 널리 사용되고 있으며, 이 작업을 수행할 때는 엔비디아의 고가 최첨단 H100 AI 칩 사용 여부는 그다지 중요하지 않다고 WSJ은 평가했다.

팻 겔싱어 인텔 최고경영자(CEO) 지난해 12월 인터뷰에서 "추론의 경제성은 너무 많은 전력을 소모하고, 새로운 관리 및 보안 모델과 새로운 IT 인프라가 있어야 하는 4만달러(5300만원)짜리 H100 환경 구축을 필요로 하지 않는다는 점"이라고 말했다.

비벡 아리아 뱅크오브아메리카(BofA)의 애널리스트는 AI 모델 학습에 대한 투자가 급증한 이후 AI 모델의 수익 창출로 초점이 이동하면서 추론 칩 분야 성장이 더 빨라질 것이라며 이 분야가 엔비디아가 우위를 점하고 있는 학습 칩 시장에 비해 경쟁이 더 치열할 것이라고 전망했다.

스위스 금융그룹 UBS 애널리스트들은 올해 초 AI 반도체 수요의 90%가 학습에서 비롯된 것으로 추정했으며, 추론이 내년까지 시장의 20%를 차지할 것으로 내다봤다.

추론용 반도체 부문 성장은 인텔이나 AMD와 같은 엔비디아의 주요 경쟁자들뿐 아니라 많은 AI 칩 스타트업들에도 기회가 될 수 있다고 WSJ은 분석했다.

메타·마이크로소프트(MS)·구글·아마존 같은 대형 기술기업들도 이러한 변화를 인식하고 추론용 반도체 개발에 집중하고 있다.

아마존은 2018년부터 추론용 반도체를 보유하고 있으며, 이 반도체는 음성인식 비서 기능인 알렉사(Alexa)에 대한 컴퓨팅 비용의 40%를 차지한다.

AI 반도체와 소프트웨어 스타트업인 삼바노바(SambaNova), 구글 출신 엔지니어 조너선 로스가 설립한 스타트업 그로크(Groq) 등에 대한 관심도 크게 늘었다.

그로크는 최근 수개월 동안 홈페이지에서 자사 추론 칩이 대규모 언어 모델로부터 얼마나 빠르게 응답을 생성할 수 있지를 보여주는 데모를 공개했다. 로스 CEO는 일부 최첨단 AI 시스템이 재학습 없이도 더 나은 응답을 생성하도록 조정돼 더 많은 계산 작업을 추론이 담당하게 한다며 그로크의 전문 칩이 엔비디아나 다른 기업의 칩보다 훨씬 빠르고 저렴하다고 주장했다.

다만 AI 칩 시장 점유율이 80%를 넘는 엔비디아에 대한 심각한 도전은 아직 없고, AI 시스템 학습에 사용되는 엔비디아 칩은 당분간 높은 수요를 유지할 것이라고 WSJ은 예상했다.