LLM 라우팅으로 탐색 비용 최대 65.6% 절감

ai.euno.news 자동 뉴스 요약

대규모 언어 모델(LLM)을 골라 쓰면서 휴리스틱 탐색의 성능과 비용을 함께 관리하는 ‘Ballad(Bandit-Based LLM Routing for Automated Heuristic Discovery)’가 제안됐다. 연구진은 성능과 비용이 다른 LLM 네 개를 온라인 밴딧 알고리즘으로 조율한 결과, 5개 NP-난해 조합 최적화 문제에서 사후적으로 확인한 최상위 단일 모델과 대등하거나 더 나은 성과를 냈다고 밝혔다. 가장 강력한 모델만 계속 호출하는 방식과 비교하면 API 비용은 최대 65.6% 줄었다.¹

자동 휴리스틱 발견(AHD)은 LLM이 기존 해법을 반복해서 변형하고 다듬어 더 좋은 휴리스틱을 찾는 방식이다. 여기에는 크고 비싼 모델일수록 더 좋은 결과를 꾸준히 낼 것이라는 전제가 깔리기 쉽다. 그러나 연구진이 여러 NP-난해 문제에서 시험한 결과, 고성능·고비용 모델이 일관되게 우세하지는 않았다. 따라서 핵심 문제는 한 모델을 미리 정하는 것이 아니라, 프런티어 모델부터 무료 호스팅 모델이나 오픈 웨이트 모델까지 포함한 후보군에서 탐색 단계마다 적합한 모델을 고르는 일로 바뀐다.¹

이 선택은 일반적인 밴딧 문제보다 복잡하다. 탐색이 진행되면서 유용한 LLM이 달라질 수 있고, 한 LLM이 만든 출력이 다음 호출의 문맥과 휴리스틱 집단에 영향을 준다. 각 모델의 보상은 시간에 따라 변할 뿐 아니라 다른 모델의 결과와도 얽히므로, 고전적 온라인 의사결정이 가정하는 독립성이 성립하지 않는다.¹

Ballad는 이를 세 가지 장치로 다룬다. 먼저 안정적인 평균 성적보다 드물게 나온 고득점 휴리스틱을 중시하는 정책으로 호출할 LLM을 고른다. 이어 휴리스틱의 계보를 방향성 비순환 그래프(DAG)로 나타내고, 후손의 성과를 이전 생성 단계까지 전파해 기여도를 계산한다. 오래된 관측에는 할인율을 적용해 각 모델이 현재 탐색에서 얼마나 유용한지 추적한다. 이 조합으로 여러 LLM을 하나의 앙상블처럼 운용하며, 일부 문제에서는 후보 모델 모두를 단독으로 썼을 때보다 높은 성과를 냈다.¹

다만 이번 결과는 2026년 11월 12일 제출된 arXiv 초판의 초록에 제시된 실험으로, 검증 범위는 5개 조합 최적화 문제와 4개 모델이다. 어떤 문제와 모델에서 개선이 나타났는지, 최대 비용 절감이 다른 조건에서도 유지되는지는 제공된 자료만으로 확인할 수 없다.

읽기 목록은 이 브라우저에 저장됩니다.