Together AI, 파인튜닝 서비스에 신규 모델·실시간 지표 추가

ai.euno.news 자동 뉴스 요약

Together AI가 파인튜닝 서비스 ‘Together Fine-Tuning’에 신규 오픈웨이트 모델 지원, 실시간 학습 지표, 세부 제어 기능을 추가했다고 9월 11일 블로그를 통해 밝혔다. 일부 모델의 가격도 낮췄다.

이번 업데이트로 GLM-5.3, GLM-5.2, GLM-5.1, DeepSeek-V4-Flash 계열, Kimi K2.7-Code, Kimi K2.6, Qwen 3.8-27B, Qwen 3.6 계열, Gemma 4 계열 등이 파인튜닝 대상 모델로 추가됐다. Together AI에 따르면 GLM-5.3은 에이전트 터미널 작업 벤치마크인 Terminal-Bench 2.1에서 88.2점을 기록해 선두권 독점 모델과 1점 이내 차이를 보였다. 대규모 모델 외에 비용 효율을 우선하는 팀을 위한 Qwen 3.8-27B, Gemma 4 같은 중간 규모 모델도 지원 목록에 포함됐고, 온디바이스 환경을 겨냥한 Qwen 3.5 계열은 0.8B부터 9B까지 제공된다.

학습 과정을 들여다보는 방식도 바뀌었다. 기존에는 작업이 끝나야 결과를 확인할 수 있었지만, 이제는 학습·평가 단계마다 손실값, 그래디언트 노름, 학습률 같은 지표가 API·CLI·대시보드로 즉시 노출된다. 검증 데이터셋을 추가하면 평가 손실과 관련 지표도 함께 기록된다. 대시보드의 ‘메트릭’ 탭은 작업이 진행 중인 상태에서도 곡선을 실시간으로 갱신하며, 여러 작업을 골라 한 그래프에 겹쳐 볼 수 있어 하이퍼파라미터 스윕 결과를 브라우저 탭 여러 개를 오가지 않고 한눈에 비교할 수 있다. 파이썬 SDK로도 같은 곡선을 터미널에서 바로 확인할 수 있으며, API는 구간별로 필터링하거나 다운샘플링한 원본 시계열 데이터를 반환해 노트북이나 사내 대시보드로 옮겨 쓸 수 있다. 학습 전에는 데이터셋을 검사·검증할 수 있고, 진행 중인 여러 실행을 비교하다가 검증 손실이 정체되면 중단하는 것도 가능해졌다.

세부 제어 기능 중 눈에 띄는 것은 ‘전문가 LoRA(Expert LoRA)‘다. 혼합전문가(Mixture-of-Experts) 구조 모델은 전체 파라미터의 90% 이상이 전문가 레이어에 몰려 있는데, 기존 LoRA 파인튜닝은 어텐션 레이어에만 어댑터를 붙이고 전문가 레이어는 그대로 둔 채 학습을 진행했다. 이번 업데이트로 전문가 레이어 자체에 LoRA 어댑터를 붙일 수 있게 됐다. Together AI가 기존 모델이 전혀 알지 못하는 가상의 사실 200개를 학습시켜 비교한 결과, 전문가 레이어까지 포함한 어댑터는 새 지식의 최대 89%를 기억한 반면 어텐션 레이어만 학습한 어댑터는 15%에 그쳤다고 밝혔다. 이는 모델이 완전히 새로운 지식을 익혀야 하는 과제일수록 어느 레이어를 학습하는지가 결과를 크게 가른다는 것을 보여준다.

읽기 목록은 이 브라우저에 저장됩니다.