LLM 에이전트 기반 AI 인프라 공동 설계
최근 30일 조회수 — 좋아요 —핵심 요약
Formulaic은 LLM 에이전트의 문제 정식화와 수학적 최적화·검증을 결합해 하드웨어와 소프트웨어를 함께 개선한다.
대규모언어모델(LLM) 에이전트가 AI 인프라의 설계 문제 자체를 단계적으로 다시 정의하고, 수학적 최적화와 검증을 결합해 하드웨어·소프트웨어를 함께 개선하는 기법 ‘포뮬러익(Formulaic)’이 제안됐다. 10월 29일 arXiv에 공개된 논문은 에이전트가 설계안을 곧바로 확정하는 대신, 최적화할 문제의 수학적 표현을 작성하도록 역할을 제한했다.1
AI 모델을 학습하고 서비스하는 칩과 소프트웨어는 보통 여러 계층으로 나눠 설계한다. 복잡성을 관리하기에는 유리하지만, 각 계층의 경계가 최적화 대상도 고정한다. 칩과 소프트웨어를 동시에 바꿔야 얻을 수 있는 개선안은 애초에 탐색 공간에서 빠질 수 있다는 게 연구진의 문제의식이다.
Formulaic은 이를 세 역할로 나눈다. 에이전트는 연산 그래프에서 칩에 이르는 설계 문제를 단계별로 정식화하고, 수학적 솔버는 그 범위 안에서 최적해를 찾는다. 이후 검증과 측정이 정식화에 쓰인 가정과 결과를 확인한다. 각 단계는 프로그램 하나가 아니라, 정확성이 성립하는 조건까지 포함한 프로그램군인 ‘템플릿’으로 표현된다. ‘월 릴랙세이션(wall relaxation)’은 소프트웨어의 성능을 제한하는 하드웨어 제약에 비용을 매겨 칩의 설계 공간을 탐색하는 방식이다.1
연구진이 보고한 실험 결과는 다음과 같다.
| 실험 | 비교 기준 | 결과 |
|---|---|---|
| NVIDIA GB10의 Qwen3-8B 전체 레이어 | SGLang | 에이전트 작성 템플릿이 1.075배 빠름 |
| 시뮬레이션한 Ventus GPU의 Qwen2.5-0.5B | 기준 설계의 최악 조건 사이클을 1로 환산 | 공동 설계 0.428, 소프트웨어 단독 최적화 0.934 |
| 5단계 GEMM 개선 과정 | 증명 재사용 전 검사 | 검사가 2.51배 빠름 |
특히 Ventus GPU 결과는 탐색 범위를 소프트웨어에만 묶었을 때보다 하드웨어까지 함께 바꿀 때 개선 폭이 커질 수 있음을 보여준다. 증명 재사용 실험은 설계를 점진적으로 수정할 때 앞 단계의 검증 결과를 다음 단계에 활용할 수 있다는 근거도 제시한다.
다만 이번 논문은 Formulaic 전체를 한 번에 실행한 종단 간 실험이 아니다. GB10 실행, Ventus GPU 공동 설계, GEMM 검증을 각각 분리해 평가한 첫 단계 연구다. 따라서 개별 구성 요소의 가능성은 확인했지만, 하나의 연속된 흐름이 실제 AI 인프라 설계 전 과정을 얼마나 안정적으로 최적화하는지는 아직 검증되지 않았다.1
Footnotes
읽기 목록은 이 브라우저에 저장됩니다.
출처
- Learning to Formulate: Agentic Hardware-Software Co-Design of AI Infrastructure through Progressive Optimization and Verification — arXiv (cs.DC)
이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.