미스트랄, 1조 매개변수 ML4 공개

ai.euno.news 자동 뉴스 요약

프랑스 AI 기업 미스트랄(Mistral)이 1조 매개변수 규모의 멀티모달 모델 ‘미스트랄 라지 4(Mistral Large 4·ML4)’의 가중치를 공개했다. ‘르 청크(Le Chonk)’라는 별칭을 지닌 ML4는 허깅페이스에서 내려받아 자체 인프라에 배포할 수 있다. 이달 초 공개 미리보기로 선보인 뒤 3주간 강화학습을 추가해 코딩과 방어형 사이버보안 성능을 끌어올렸다는 게 미스트랄의 설명이다.¹

ML4는 텍스트와 이미지를 입력받아 텍스트를 생성하는 다국어 전문가 혼합(Mixture-of-Experts·MoE) 모델이다. 전체 매개변수는 약 1조 개지만 토큰을 처리할 때는 490억 개만 활성화하며, 문맥 창은 100만 토큰이다. 72개 디코더 층 가운데 71개에 MoE 블록을 적용해 토큰마다 전문가 128개 중 4개와 공유 전문가 1개를 가동한다. 문맥에서도 최대 2,048개 위치를 골라 참조하는 희소 어텐션을 쓴다.²

코딩 성능은 미리보기보다 뚜렷하게 올랐다. Terminal-Bench 4.0 점수는 28%에서 41%로 13%포인트 상승해 GLM-5.3의 40%를 근소하게 앞섰다. Artificial Analysis Coding Agent Index에서는 48점을 기록했고, 작업당 토큰은 GLM-5.3보다 평균 47% 적게 사용했다. 다만 종합 순위를 두고 출처가 엇갈린다. 미스트랄은 사실상 공동 선두라고 표현했지만, ZDNet은 GLM-5.3이 49점으로 ML4보다 1점 높다고 전했다.¹³ 추론 강도는 단순 작업용 Low, 일반 작업용 Medium, 고난도 작업용 기본값 High로 조절할 수 있다.

방어형 보안도 핵심 용도다. 허깅페이스는 실제 오픈소스 취약점을 재현하고 패치하는 Artificial Analysis Cyber Index에서 ML4가 82%를 기록했다고 소개했다.² 더뉴스택이 인용한 세부 CyberGym E2E 점수는 79%로, GLM-5.3의 29%보다 높았다.⁴ 자체 배포하면 외부 API가 차단될 위험 없이 사고 대응과 취약점 분석을 계속할 수 있다는 것이 미스트랄의 주장이다.⁵

다만 ‘오픈 가중치’가 아무 제한 없는 공개를 뜻하지는 않는다. ML4에는 서비스형 모델 제공을 제한하는 미스트랄 생태계 오픈웨이트 라이선스가 적용된다.² 또 공개된 성능 수치 상당수는 미스트랄이 제시한 벤치마크에 기대고 있어, 실제 환경에서의 비용과 정확도는 별도 검증이 필요하다.

읽기 목록은 이 브라우저에 저장됩니다.