주니 로컬, M5 맥 생성 속도 70% 향상

ai.euno.news 자동 뉴스 요약

젯브레인스(JetBrains)가 코딩 에이전트 주니 로컬(Junie Local)의 M5 맥 생성 속도를 약 70% 높였다. M5 Max에서 초당 약 40토큰이던 속도가 70토큰으로 올랐고, 순간적으로는 107토큰까지 기록했다. 젯브레인스는 스플래시(Splash) 추론 엔진과 주니의 코딩 작업에 맞춰 미세조정한 DFlash2 초안 모델을 결합한 결과라고 밝혔다.¹

스플래시는 인코 AI(Inco AI)가 지난 9월 공개한 큐원(Qwen) 특화 엔진이다. 디코딩 단계마다 초안 토큰 8개를 한꺼번에 검증하며, 문맥이 길어져도 위치당 어텐션 연산 비용이 기존보다 약 10배 낮아 생성 속도가 크게 떨어지지 않는다. 다만 입력 문맥을 처리하는 프리필 속도는 젯브레인스가 최적화했던 MLX-VLM과 비슷했다. 젯브레인스는 M5의 int8 연산 최적화를 스플래시로 옮긴 뒤, 이번 버전부터 MLX-VLM을 스플래시로 교체했다.¹

속도 향상의 또 다른 축은 추측 디코딩에 쓰는 DFlash2다. 추측 디코딩은 작은 초안 모델이 먼저 토큰을 제시하고 본 모델이 이를 검증하는 방식이라, 초안의 채택률이 낮으면 오히려 느려질 수 있다. 기본 DFlash2가 겨냥한 Qwen 3.8-27B는 사고 토큰을 지나치게 많이 생성해 속도 이점을 상쇄했다. 이에 젯브레인스는 Qwen 3.6보다 성능이 높으면서 생성 토큰은 30%만 더 쓰는 자체 혼합 모델 Qwen3.8-3.6-27B-blend용 DFlash2를 새로 훈련했다.¹

훈련에는 주니 로컬의 내부 코딩 환경에서 만든 에이전트형 코딩 궤적과 SpecForge가 쓰였다. 생성 토큰 약 100만 개와 읽기 토큰 약 7,100만 개만으로 인코의 채택률과 같은 수준에 도달했다는 것이 젯브레인스의 설명이다. 기존 MTP·MLX-VLM 조합과 비교하면 전체 성능은 약 2배 개선됐다.¹

프리필 속도도 초당 850토큰에서 1,200토큰으로 올랐으며, 10만 토큰 문맥에서 필요한 메모리는 약 24GB다. 지원 범위는 메모리 64GB를 갖춘 M4 이상 맥으로 넓어졌다. 다만 M4의 프리필은 M5보다 약 4배 느려 시스템 프롬프트와 문맥을 처음 불러올 때 지연이 크다. 또 DFlash 계열은 훈련 분포에 민감해 익숙한 코딩 작업에서는 빠르지만 낯선 작업에서는 채택률과 속도가 낮아질 수 있다.¹

읽기 목록은 이 브라우저에 저장됩니다.