추론 비용 90% 폭락. 엔비디아, 랭체인(LangChain)과 손잡고 에이전트 표준 정의하며 AI 애플리케이션의 새로운 진입점 선점

TradingKey - 7월 8일, NVIDIA( NVDA)와 AI 개발 프레임워크 랭체인(LangChain)이 공동으로 'NVIDIA NeMoClaw Deep Agents' 블루프린트를 발표했다. 이번 조치는 NVIDIA가 단순한 AI 컴퓨팅 파워 제공업체에서 기업용 에이전트 개발 표준을 정의하는 생태계 플랫폼으로 포괄적인 확장을 도모하고 있음을 나타내며, 자사 소프트웨어 사업의 새로운 성장 공간을 열어젖히고 있다.

이 블루프린트는 기업에 개방적이고 맞춤 설정이 가능하며 거버넌스가 가능한 AI 에이전트 참조 아키텍처를 제공하며, 기업이 에이전트 배포 과정에서 직면하는 통제 가능성, 거버넌스, 지속적인 진화와 같은 핵심 과제를 해결하는 것을 목표로 한다.

단순히 모델 성능을 향상시키는 데 그치지 않고, 이 블루프린트는 기업용 에이전트의 소프트웨어 엔지니어링 역량을 강조한다. 공식 데이터에 따르면 이 솔루션은 여러 벤치마크에서 선도적인 성능을 달성할 뿐만 아니라 에이전트 추론 비용을 10배 이상 절감한다. 또한 블랙웰(Blackwell) 추론 플랫폼과 하드웨어-소프트웨어 시너지를 형성해 AI 애플리케이션 배포 비용을 더욱 압축한다.

생성형 AI가 콘텐츠 생성에서 자율적 작업 수행으로 발전함에 따라, 에이전트는 기업용 AI 애플리케이션의 핵심 형태로 자리 잡고 있다. 그러나 기업들은 배포 과정에서 여전히 보안, 통제 가능성, 비즈니스 프로세스와의 통합 용이성 등 여러 과제에 직면해 있다.

새롭게 출시된 블루프린트의 핵심은 새로운 에이전트 프레임워크를 구축하는 것이 아니라, 완전한 기업용 참조 아키텍처를 제공하는 것이다. 랭체인과의 협력을 기반으로 하는 이 블루프린트는 개방형 아키텍처 설계를 채택하여, 기업이 폐쇄형 플랫폼에 의존하지 않고 기본 시스템에 대한 완전한 통제권을 확보하고 에이전트 역량을 맞춤 설정하며 비즈니스 성장에 따라 지속적으로 반복 적용할 수 있도록 지원한다.

NVIDIA가 이번에 선보인 솔루션은 '에이전트가 어떤 작업을 완료할 수 있는가'를 강조하기보다, 에이전트가 어떻게 거버넌스를 거치고, 모니터링 및 감사되며, 지속적으로 최적화되는지에 더 초점을 맞춥니다. 이러한 역량은 금융, 헬스케어, 정부 등 규제가 엄격한 산업에 특히 필수적이며, 기업들이 에이전트를 대규모로 배포할 수 있는 진입 장벽을 낮춰줍니다.

랭체인(LangChain)의 공동 창립자이자 CEO인 해리슨 체이스(Harrison Chase)는 "더 나은 에이전트를 구축하는 핵심은 모델을 둘러싼 시스템을 지속적으로 개선하는 것"이라며, "개발 팀이 메모리, 도구 사용, 평가 및 모델 동작을 동시에 미세 조정할 수 있을 때 이러한 역량들이 시너지 효과를 창출한다. NVIDIA와의 협업은 기업들이 개방형 스택을 통해 강력한 성능을 달성할 뿐만 아니라, 자신들이 구축한 에이전트 시스템에 대한 통제력도 유지할 수 있음을 보여준다"고 말했습니다.

에이전트가 질문에 답하는 어시스턴트에서 벗어나 핵심 시스템 내에서 행동을 취할 수 있는 실행자로 전환되며 점점 더 위험도가 높은 작업을 맡게 됨에 따라, AI 시스템의 통제 가능성과 보안에 대한 기업들의 요구사항이 높아지고 있습니다.

네모 가드레일(NeMo Guardrails) 블루프린트가 제공하는 개방형 아키텍처는 기업들이 엔드투엔드로 전체 기술 스택을 소유할 수 있도록 지원하며, 이를 통해 고유한 전문적 강점을 바탕으로 시스템을 맞춤화하고 지속적으로 개선하는 한편, 자체 인프라, 프라이빗 클라우드 및 독자적인 거버넌스 프레임워크를 포함한 모든 환경에서 이를 실행할 수 있게 해줍니다.

비용 통제는 AI의 대규모 상용화에 있어 언제나 핵심적인 병목 현상이었으며, NeMoClaw 청사진은 이 점에서 상당한 우위를 보여줍니다.

LangChain이 발표한 평가 데이터에 따르면, Deep Agents 제품군을 탑재한 Nemotron 3 Ultra 모델은 0.86의 종합 점수를 기록했으며, 단일 작업 추론 비용은 4.48달러에 불과했습니다. 반면 가장 강력한 경쟁 모델의 비용은 43.48달러에 달해 약 90%의 비용 절감 효과를 나타냈습니다. 이러한 성과는 모델 자체를 재학습시켜 얻은 것이 아니라, 도구 호출 전략, 콘텍스트 관리 메커니즘, 중간 추론 워크플로우를 최적화함으로써 실현되었습니다.

하드웨어 수준에서 엔비디아의 블랙웰(Blackwell) 아키텍처는 아키텍처 업그레이드를 통해 단일 토큰 추론 비용을 이전 세대 플랫폼의 약 35분의 1 수준으로 이미 낮추었으며, 추론 처리량 효율성을 대폭 개선했습니다.

NeMoClaw 청사진은 소프트웨어 수준에서 하드웨어 잠재력을 더욱 끌어올립니다. 에이전트 작업 계획, 도구 호출, 콘텍스트 관리, 추론 경로에 대한 체계적인 최적화를 통해 동일한 컴퓨팅 파워로 더 많은 작업을 지원할 수 있도록 하며, 소프트웨어와 하드웨어의 시너지를 통해 효율성을 극대화합니다.

이번 발표는 엔비디아가 자사의 NeMo 소프트웨어 생태계를 정교화하는 데 있어 중요한 단계로, 에이전트 개발 레이어의 공백을 메워줍니다. 최근 몇 년 동안 엔비디아는 CUDA, TensorRT, NIM, NeMo를 중심으로 완전한 AI 소프트웨어 스택을 구축해 왔으며, 이는 모델 학습, 추론 배포, 기업용 애플리케이션 개발을 아우르는 풀링크 플랫폼이 되는 것을 목표로 합니다.

에이전트가 AI 애플리케이션의 핵심 매개체로 자리 잡으면서 개발 프레임워크가 새로운 생태계의 관문으로 떠오르고 있습니다. 엔비디아는 LangChain과의 파트너십을 통해 주류 프레임워크를 거쳐 기업용 AI 워크플로우에 자사의 역량을 내재화할 수 있게 되었으며, 단순한 인프라를 넘어 에이전트 시대의 주도권을 두고 경쟁하고 있습니다.

자본 시장의 관점에서 이러한 전략적 배치는 매우 중요한 의미를 지닙니다. 현재 AI 인프라 경쟁은 성숙 단계에 접어들고 있어 GPU 판매에만 의존해서는 밸류에이션 확장을 지속하기 어려운 반면, 소프트웨어 및 플랫폼 서비스는 더 높은 매출총이익률과 고객 록인 효과를 제공하기 때문입니다.

엔비디아는 NeMo 생태계를 정교화하고 에이전트 표준으로 확장함으로써 하드웨어 제공업체에서 풀스택 AI 생태계 플랫폼으로 진화하고 있으며, 향후 더 많은 소프트웨어 매출과 생태계 프리미엄을 확보할 수 있는 기반을 마련하고 있습니다.

현재 에이브릿지(Abridge), 암독스(Amdocs), 박스(Box) 등의 기업들이 자사 플랫폼에 특화된 에이전트를 내재화했으며, EY와 같은 시스템 통합(SI) 기업들은 NeMoClaw 청사진을 중심으로 엔비디아 기술 배포 역량을 확장하여 고객이 고부가가치 워크플로우 내에서 에이전트를 맞춤화하고 평가하며 거버넌스를 구축할 수 있도록 지원하고 있습니다.

장기적인 관점에서 엔비디아의 이러한 행보는 에이전트 시대의 시장 점유율을 차지하는 것뿐만 아니라, 흔들리지 않는 AI 생태계 장벽을 구축하는 것을 목표로 합니다.

엔비디아는 소프트웨어와 하드웨어의 시너지를 특징으로 하는 풀스택 솔루션을 통해 고객을 자사의 기술 생태계에 확고히 묶어두고 있으며, AI 산업 체인 내에서 핵심적인 위치를 공고히 하는 동시에 다가오는 AI 애플리케이션의 폭발적 성장에 완벽히 대비하고 있습니다.

이 콘텐츠는 AI를 활용하여 번역되었으며, 명확성을 확보할 수 있도록 검토 과정을 거쳤습니다. 정보 제공 용도로만 제공됩니다.