MLExpert, ML 실험 자율 최적화 성능 공개

ai.euno.news 자동 뉴스 요약

머신러닝 실험을 스스로 설계하고 실행 결과에 맞춰 최적화 전략을 바꾸는 범용 에이전트 모델 MLExpert가 공개됐다. 10월 15일 아카이브(arXiv)에 제출된 논문에 따르면 MLExpert는 350억 개 매개변수를 갖춘 전문가 혼합(Mixture-of-Experts·MoE) 모델이다. 경량 평가판인 MLE-Bench Lite에서 평균 메달 획득률 72.7%를 기록해 기반 모델의 37.9%보다 34.8%포인트 높았으며, 연구진은 Kimi-K3와 GLM-5.3 같은 더 큰 프런티어 모델과 비슷한 수준이라고 밝혔다.¹

MLExpert가 겨냥한 문제는 장시간 이어지는 머신러닝 엔지니어링(MLE) 작업이다. 모델이 실험을 조직하고 실행 피드백을 받아 다음 전략을 정하는 방식은 자율성을 높이지만, 한 번의 결과에는 앞선 여러 결정이 함께 영향을 미친다. 실험 비용도 크기 때문에 전체 상호작용 기록을 무작정 학습 자료로 쓰기보다는 중간 성과에서 유용한 감독 신호를 골라내야 한다.

연구진은 이를 위해 실행 가능한 과제와 모델 주도 실험 환경을 만드는 ‘Kaggle-MLE Factory’를 설계했다. 먼저 계층형 에이전트 지도 미세조정(Hierarchical Agentic SFT)으로 일반적인 도구 사용과 코딩 능력을 MLE 작업에 옮겼다. 이때 최종 결과를 기준으로 학습할 상호작용을 선별했다.

이어 윈도 상호작용 강화학습(Windowed Interaction RL·WIRL)을 적용했다. WIRL은 연속된 두 실험 결과 사이에서 이뤄진 여러 차례의 결정을 하나의 ‘실행 윈도’로 묶고, 해당 구간에 결과 기반 보상을 공동으로 부여한다. 비동기 데이터 수집과 정책 보정도 도입해 긴 작업이 모두 끝나기 전부터 정책을 갱신할 수 있게 했다. 이는 개별 행동 하나에 성과를 억지로 귀속하기보다, 실험 결과를 만들어 낸 일련의 선택을 함께 학습하는 접근이다.

논문은 MLExpert의 최적화 능력이 MLE-Bench Lite에만 머물지 않았다고 보고했다. NatureBench Lite, 에이전트 스캐폴드 최적화, 알고리즘 최적화에서도 성능이 향상돼 다른 유형의 과제로 일반화될 가능성을 보였다는 설명이다.¹ 다만 현재 공개된 자료는 아카이브에 처음 제출된 논문의 초록이며, 세부 실험 조건과 비용, 비교 모델별 수치, 통계적 유의성은 이 자료만으로 확인할 수 없다. ‘재귀적 자기 개선’으로 이어질 수 있다는 주장 역시 연구 동기이지, MLExpert가 이를 달성했다는 실증 결과는 아니다.

읽기 목록은 이 브라우저에 저장됩니다.