스스로 사고하고 판단하는 능력을 지닌 추론형 AI 모델이 차세대 AI 경쟁의 핵심으로 떠오른 가운데, 국내 주요 기술 기업들도 잇따라 경쟁에 뛰어들고 있다. 

기존의 생성형 AI가 주어진 질문에 대해 학습된 데이터를 기반으로 정답을 ‘생성’하는 데 초점을 맞췄다면, 추론형 AI는 질문의 맥락을 이해하고 문제를 단계적으로 ‘해결’하는 사고 능력에 방점을 둔다. 글로벌 기술 기업들은 지난해부터 본격적으로 이 ‘추론 모델’ 경쟁에 돌입한 상태다.

구글 딥마인드는 지난 3월, 고도화된 사고 기능을 탑재한 ‘제미나이 2.5 프로 익스페리멘털’을 선보였으며, 최근에는 코딩과 추론 성능에서 우수한 결과를 보이는 '제미나이 2.5 프로' 프리뷰 버전을 업데이트했다. 오픈AI는 지난해 9월 ‘o1’을 시작으로 올해 4월에는 ‘o3’와 소형 모델인 ‘o4 미니’까지 출시하며 개발을 이어가고 있다. 또 앤트로픽은 지난 2월 대화형 모델과 추론형 모델의 기능을 모두 수행하는 하이브리드 모델 ‘클로드 3.7 소네트’를 공개했다. 

중국 기업들도 발 빠르게 움직이고 있다. 딥시크는 추론형 AI 모델 'R1'을 저비용 고성능으로 공개하며 추론형 AI 시장의 판도를 바꿨다고 평가받고 있다. 또  알리바바는 하이브리드 추론 기능을 강조한 ‘큐원3’, 바이두는 ‘어니 X1’, 샤오미는 경량화 모델 ‘미모(MiMo)’를 내세워 경쟁에 가세하고 있다

국내 주요 기술기업들도 추론형 AI 모델 개발에 속도를 내고 있다. 국내 최초의 추론형 AI 모델은 지난 3월 LG AI 연구원이 출시한 '엑사원 딥'이다. 엑사원 딥은 대규모 모델 '32B', 경량 모델 '7.8B', 스마트폰 등 온디바이스용 모델 '2.4B' 등 3종으로 출시되었다. 수학적 논리를 이해하고, 과학적 개념을 추론하며, 프로그래밍 문제를 해결하는 능력을 갖춘 고성능 추론 특화 모델로 공개 직후 32B 모델은 미국 비영리 연구기관인 EPOCH AI(에포크 AI)의 ‘주목할 만한 AI 모델(Notable AI Models)’ 리스트에 등재되며 전문 지식 분야에서의 활용성을 입증하기도 했다.

SK 텔레콤은 딥시크 R1과 맞먹는 성능을 목표로 개발된 추론형 AI 모델 '에이닷엑스(A.X 4.1)을 공개할 예정이다. SK 텔레콤 유영상 대표는 지난 4월 사내 메시지를 통해 연내 추론형 모델을 개발해 AI 수요자와 공급자 역할을 융합한 진정한 AI 컴퍼니로서 가시적 성과를 창출하겠다고 밝힌 바 있다.

네이버는 이달 하이퍼클로바X 기반의 추론 모델을 선보일 예정이다. 네이버클라우드에 따르면 추론 모델의 강점인 수학, 프로그래밍 분야에서 더 정확한 답변을 생성하는 것과 함께 시각과 음성 정보 이해, 자동 웹 검색, API 호출, 데이터 분석 등 하이퍼클로바X의 각종 능력을 추론 모델을 기반으로 고도화할 예정이다. 

스타트업들 역시 추론 모델 경쟁에 뛰어들었다. AI 모델 ‘솔라'를 개발한 AI 기업 업스테이지는 6월에 딥시크 ‘R1’에 필적하는 ‘생각 사슬(CoT)’을 구현한 추론형 AI 모델을 공개한다고 예고했으며 AI 검색 스타트업 라이너는 지난 3월  자료를 심층적으로 검색하고 추론을 통해 정교한 답변을 생성하는 '라이너 딥 리서치'를 출시했다.

엔비디아는 인공지능(AI) 기술의 중심축이 데이터센터에서 사용자 기기로 확산되는 흐름 속에서 시장 지배력을 유지하기 위한 전략을 본격화하고 있다.

미국 금융매체 *배런스(Barron’s)*에 따르면, 주요 기술 기업들은 AI 모델의 학습과 운영을 위한 데이터센터 구축에 박차를 가하고 있으며, 이 분야에서 엔비디아는 AI 칩 시장을 주도하고 있다. 그러나 최근 AI 추론 시장의 급성장과 함께 새로운 경쟁 구도가 형성되고 있다.

추론(inference)의 중심이동… 퀄컴·마이크론 도전

AI 추론은 AI 모델이 실제로 답변을 생성하는 핵심 과정으로, 현재는 주로 데이터센터에서 이뤄지고 있지만 향후 스마트폰, PC 등 사용자 기기로 이동할 가능성이 커지고 있다. 퀄컴은 이 추세를 주도하며, 기기에서의 실행이 빠른 응답, 개인정보 보호, 저비용 등 다양한 측면에서 유리하다고 강조하고 있다.

퀄컴 CFO 아카시 팔키왈라는 "기기 기반 추론은 반드시 일어날 변화"라고 강조했다. 하지만 배터리 소모와 ‘메모리 월(memory wall)’ 등 기술적 과제가 존재한다.

메모리 칩 전문기업 마이크론은 이러한 문제 해결을 위한 대안으로, 메모리 내에서 직접 연산을 수행하는 '메모리 내 처리(processing-in-memory)' 기술을 제시하고 있다. 마이크론의 최신 모바일 메모리 칩은 이전 대비 최대 15%의 전력 절감 효과를 보인다.

엔비디아의 반격… 무선 네트워크에 AI 추론 이식

엔비디아는 이러한 도전에 맞서 AI 추론을 기기 대신 통신사의 무선 인프라에서 수행하는 전략을 내세우고 있다. 무선 기지국은 사용자와 가까워 지연을 줄이고, 기존 전력망을 활용할 수 있다는 점에서 데이터센터와 기기 사이의 균형점을 제공할 수 있다는 논리다.

실제로 엔비디아는 삼성전자와 협력해 네트워크를 데이터센터처럼 작동하게 만들고 있으며, 미국 버라이즌, 일본 소프트뱅크와도 AI 추론 기술 협력을 진행 중이다. 소프트뱅크는 1달러 투자에 5달러의 수익이 가능할 것이라는 기대를 내놓기도 했다.

혼합 구조가 미래… 승자는 누가 될까

AI 추론의 중심이 데이터센터, 무선 인프라, 사용자 기기 사이에서 어떻게 분산될지는 아직 명확치 않다. 기술 분석가 딘 버블리는 “전체 컴퓨팅의 중심은 여전히 데이터센터 또는 기기에 머무를 것이며, 중간 지점인 무선 네트워크는 한계가 있다”고 지적했다.

그럼에도 불구하고 현재로서는 엔비디아가 뚜렷한 우위를 점하고 있다. 주요 기술 기업들이 기존에 투자한 인프라 및 호환성 문제로 인해 여전히 엔비디아 칩을 선호하고 있으며, AI 학습과 추론을 동일한 플랫폼에서 처리하려는 경향도 강하다.

엔비디아의 무선 인프라 진출 전략은 AI 추론의 무게 중심이 이동하는 시점에서 퀄컴 등 신흥 경쟁자에 대한 강력한 방어 수단이 될 것으로 보인다.