RadixArk, DaisyRose-27B 공개

2분 RadixArkDaisyRose강화학습오픈소스
최근 30일 조회수 — 좋아요 —

핵심 요약

Qwen3.8-27B를 강화학습한 모델로 Terminal-Bench 점수를 5.6%에서 12.0%로 높였다고 발표했다.

RadixArk, DaisyRose-27B 공개 — 기사 주제를 표현한 AI 생성 개념 삽화
AI 생성 개념 삽화 · 실제 사건을 촬영한 사진이 아닙니다.

RadixArk가 Qwen3.8-27B를 강화학습으로 후처리한 첫 모델 DaisyRose-27B를 공개했다. 회사 발표에 따르면 1,200개 과제를 이용해 엔비디아 H200 GPU 144대에서 18일간 학습했으며, 장기 에이전트 작업 평가인 Terminal-Bench 4.1의 pass@1 점수를 기존 5.6%에서 12.0%로 높였다.1 BF16·FP8·NVFP4 체크포인트는 아파치 2.0 라이선스로 배포한다.2

DaisyRose-27B는 Qwen3.8-27B의 아키텍처와 토크나이저, 채팅 템플릿, 이미지 이해 기능, 25만6,000토큰 문맥 창을 유지한다. 다만 학습 세션은 요약을 거쳐 여러 궤적으로 나누는 방식으로 최대 100만 토큰까지 늘렸다. 학습 과제는 머신러닝·소프트웨어공학·과학 분야 후보 수천 개 가운데 골랐다. 원본 모델이 실제로 틀리는 문제, 여러 단계가 연결된 장기 작업, 의도한 문제를 풀지 않고 보상만 얻는 ‘보상 해킹’이 어려운 과제라는 세 기준을 적용했다. 한 번의 시도에는 샌드박스에서 최대 1.5시간, 100회가 넘는 도구 호출과 25만6,000토큰 이상의 출력이 허용됐다.1

벤치마크Qwen3.8-27BDaisyRose-27B
Terminal-Bench 4.15.612.0
DeepSWE v1.142.246.2
IFBench79.582.4
GPQA Diamond89.290.7

학습에는 오픈소스 강화학습 프레임워크 Miles를 완전 비동기 방식으로 썼다. H200 128대가 에이전트 추론을 수행하는 동안 16대가 궤적을 학습하고, 갱신된 모델을 다시 추론 GPU에 배포했다. RadixArk는 내부 백엔드의 모델 연산 활용률(MFU)이 37%로, 비교한 메가트론 기반 오픈소스 학습기의 16%보다 높았다고 밝혔다. 전체 처리 속도도 초당 약 1만6,800토큰으로 비교군의 약 8,300토큰보다 두 배가량 빨랐으며, 총 학습량은 6만3,000 GPU시간이었다.1

다만 성능과 효율 수치는 모두 RadixArk가 공개한 결과다. 벤치마크별 점수는 BF16과 FP8 평가 가운데 더 높은 값을 택했으며, 두 형식의 차이는 함께 측정한 경우 1점 미만이었다.2 따라서 향상 폭을 판단하려면 공개 체크포인트를 이용한 독립 재현이 뒤따라야 한다.

Footnotes

  1. Hacker News, 「DaisyRose-27B: Pushing the Frontier of Post-Training Efficiency」 ↩ ↩2 ↩3

  2. Hugging Face Blog, 「DaisyRose-27B: Pushing the Frontier of Post-Training Efficiency」 ↩ ↩2

읽기 목록은 이 브라우저에 저장됩니다.

출처

  1. DaisyRose-27B: Pushing the Frontier of Post-Training Efficiency — Hacker News
  2. DaisyRose-27B: Pushing the Frontier of Post-Training Efficiency — Hugging Face Blog

이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요.