엔비디아, 기업용 멀티모달 모델 공개

ai.euno.news 자동 뉴스 요약

엔비디아가 기업용 에이전트에 맞춘 개방형 멀티모달 모델 ‘Nemotron 3.5 Super VL’을 공개했다. 엔비디아 발표에 따르면 이 모델은 단일 GPU에서 같은 규모의 다른 오픈 모델보다 에이전트 작업 처리량이 최대 5배 높다. 문서나 이미지를 읽고, 여러 출처를 확인하며, 사내 정책에 따라 도구를 호출하는 복합 업무를 하나의 모델로 처리하도록 설계됐다.¹

Nemotron 3.5 Super VL은 전체 1,200억 개 매개변수를 갖춘 전문가 혼합(Mixture-of-Experts·MoE) 모델이다. 토큰을 처리할 때마다 전체가 아닌 120억 개만 활성화해 모델 용량과 추론 효율의 균형을 맞췄다. 텍스트 추론과 지시 이행, 도구 사용뿐 아니라 이미지·문서·영상 이해도 결합했다. 따라서 텍스트 모델과 비전 언어 모델을 따로 배치하고 두 모델 사이에서 작업 맥락을 전달하는 절차를 줄일 수 있다는 것이 엔비디아의 설명이다.

적용 범위는 코드 시험과 오류 분석, 웹 검색과 답변 검증, 표·차트·문서 배치 해석, 보안 취약점 식별과 위협 분류, 영상 검색과 사고 분석 등이다. 엔비디아는 여러 모델을 함께 쓰는 환경에서 Nemotron 3.5 Super VL이 추론·도구 사용·시각 이해가 동시에 필요한 다단계 업무를 맡는 구성을 제시했다. 대량의 텍스트 작업은 더 작은 Nemotron 3.5 Lightning이, 복잡한 계획과 조율은 Nemotron 3 Ultra가 담당하는 식이다.

기업은 NeMo의 AutoModel을 이용해 지도 미세조정(SFT)이나 저순위 적응(LoRA)을 적용하고, 자체 데이터와 도구·정책·업무 절차를 학습시킬 수 있다. 강화학습(RL)으로 실제 조직의 에이전트 환경에 맞추는 방법도 지원한다. 엔비디아가 소개한 도입 사례에서 Scale AI는 Skydance의 거래처 신용 처리 업무를 후속 학습해 추론 비용을 40분의 1, 지연 시간을 5분의 1로 낮출 예정이라고 밝혔다. Ramp는 영수증 이미지를 구조화된 JSON으로 바꾸는 작업에서 처리량이 최대 50% 늘고 지연 시간이 10분의 1로 줄 것으로 예상한다. AI21과 Alice의 위협 정보·취약점 분석 정확도는 41% 개선됐다고 한다.

다만 최대 5배 처리량은 엔비디아가 밝힌 수치이며, 비교 대상 모델과 측정 조건은 주어진 자료에 구체적으로 제시되지 않았다. Scale AI와 Ramp의 성능도 각각 예정치와 예상치다. 실제 이점은 GPU 구성, 입력 형태, 도구 호출 횟수와 후속 학습 방식에 따라 별도로 검증할 필요가 있다.

읽기 목록은 이 브라우저에 저장됩니다.