에디터 브리핑
AI 생성 개념 삽화 · 실제 사건을 촬영한 사진이 아닙니다.
LLM 인프라 연구는 요청별 실행 경로 최적화에서 GPU 커널의 재현성, 코딩 에이전트의 실제 개발 역량 검증까지 범위를 넓히고 있다. 처리량 개선뿐 아니라 배치 환경의 신뢰성과 다중 파일·GPU 과제에서의 정확성을 함께 평가해야 한다는 흐름이 드러난다.
- 요청별 실행 경로 조정하는 LLM 서빙 모프
모프가 요청 특성에 맞춰 어텐션·SSM 실행 경로를 선택하고, 선택적 배칭과 문맥 캐시로 실제 서빙 문제까지 다룬 방식을 살펴볼 수 있다.
- GPU 커널 배치 불변성 통과율 91.9%
LLM 생성 GPU 커널의 출력이 배치 구성에 따라 달라지는 문제와, 정적 분석·동적 검증으로 통과율을 67.6%에서 91.9%로 높인 방법을 보여준다.
- AI 인프라 코딩 벤치마크 공개
최고 성능 에이전트도 실제 다중 파일·GPU 과제의 38.9%만 해결했다. 공식 테스트를 통과한 제출물의 32%가 추가 검증에서 탈락해 평가 설계의 중요성을 드러낸다.
· · 자동 요약이며 원문 출처를 함께 확인해 주세요.
최근 소식
기사 통계를 확인하고 있습니다.
-
요청별 실행 경로 조정하는 LLM 서빙 모프
모프는 요청 특성에 따라 하이브리드 LLM 실행 경로를 선택해 처리량을 최대 3.87배 높였다.
-
GPU 커널 배치 불변성 통과율 91.9%
정적 의존성 분석과 동적 검증을 결합해 LLM 생성 GPU 커널의 배치 불변성을 높이는 기법이 제안됐다.
-
AI 인프라 코딩 벤치마크 공개
InfraDev 평가에서 최고 성능 코딩 에이전트도 다중 파일·GPU 과제의 38.9%만 해결했다.
-
LLM 에이전트 절차 위반 막는 Concordat
타입과 실행 시점 검사로 LLM 에이전트의 절차 위반을 사전 차단하는 오픈소스 라이브러리가 제안됐다.
-
범용 AI, B200 커널 최적화서 전문가 능가
저스트골은 최소한의 목표와 제약만으로 B200의 다수 연산에서 공개 라이브러리와 전문 에이전트를 앞섰다.
-
애플, 온디바이스 AI 강화한 M6 아이맥 공개
애플이 AI 성능과 연결·저장 속도를 높인 M6 아이맥을 1,499달러에 공개했다.
-
Ai2 “LLM의 연구 신규성 판단 불안정”
Ai2는 LLM의 연구 아이디어 신규성 판별이 프롬프트와 평가 설정에 따라 크게 달라진다고 밝혔다.
-
네비우스, AI 롤아웃 수집 66.9% 단축
네비우스는 배치·캐시·스케줄링 최적화로 AI 에이전트 강화학습의 롤아웃 수집 시간을 줄였다.
-
엔비디아, AI·게임 PC 플랫폼 RTX Spark 공개
블랙웰 GPU와 그레이스 CPU, 최대 128GB 통합 메모리로 AI 개발과 DLSS 5 게임을 지원한다.
-
CUDA 13.4, 공유 GPU 메모리 제한 지원
엔비디아가 쿠버네티스 공유 GPU에 작업별 메모리 한도를 강제하는 기능과 오픈소스 오퍼레이터를 공개했다.
-
메타 안드로메다 광고 처리량 100배 확대
메타가 모델·검색·GPU를 공동 설계해 초당 10억 개 이상 광고를 평가하고 전환율을 2.4% 높였다.
-
엔비디아, 네모트론 3.5 전사 모델 공개
엔비디아가 40개 언어의 전사·번역·화자 구분·질의응답을 지원하는 오픈 웨이트 음성 모델을 공개했다.