LLM의 신경망 가중치 직접 수정 가능성

ai.euno.news 자동 뉴스 요약

프런티어 대규모 언어 모델(LLM)이 경사하강법이나 별도 학습 루프 없이 신경망의 가중치를 직접 해석하고 수정하는 ‘가중치 공간 프로그래밍(Weight-Space Programming)’ 가능성이 제시됐다. 공개된 초기 실험에서 GPT-6 Astra는 숫자로 나열된 가중치만 보고 작은 신경망이 학습한 작업을 구별했으며, 자연어로 주어진 목표에 맞춰 가중치를 새로 작성하거나 기존 언어 모델의 결함을 고쳤다.¹

가중치는 신경망이 입력을 어떻게 처리할지 결정하는 수치다. 지금까지는 주로 Adam·Muon 같은 최적화 알고리즘이나 가중치 생성 전용 모델, 형식 프로그램을 변환하는 컴파일러가 이를 만들었다. 사람이 원시 가중치를 읽고 신경망의 행동을 예측하거나 원하는 기능을 직접 심는 일은 사실상 불가능에 가깝다. 이번 접근은 범용 LLM이 각 부분의 계산 역할을 추론한 뒤 자연어 명세에 맞게 수치를 직접 바꾼다는 점에서 기존 방식과 다르다. 연구진은 Astra가 훈련 루프를 작성하지 못하도록 제한했으며, 일부 실험에서는 실행 환경의 결과를 돌려주는 피드백도 제공하지 않았다고 밝혔다.¹

작은 신경망 실험에서는 입력 채널과 행동 집합, 구조가 모두 같은 정책 신경망들을 네 가지 컴퓨터 게임에 각각 PPO(Proximal Policy Optimization)로 학습했다. Astra는 구조 차이에 기대지 않고 원시 가중치에서 학습된 행동을 판별했다. 더 나아가 게임용 신경망을 처음부터 작성해, PPO로 1억 스텝을 학습한 신경망보다 높은 성능을 냈다는 것이 연구진의 설명이다. 다만 자료에는 게임별 점수나 반복 실험 결과가 제시되지 않았다.¹

언어 모델을 대상으로 한 결과는 변화 폭이 더 크다. Astra는 Qwen3.5-0.8B의 가중치에서 반복 추론을 일으키는 문제를 찾아 전체의 0.016%를 수정했다. 연구진에 따르면 동일한 샘플링 설정에서 MATH-500 점수는 7.9%에서 48.1%로 40.2%포인트 올랐고, 명령 준수 능력을 재는 IFEval 성능도 3배로 높아졌다. 해당 반복 문제는 Qwen 모델 카드에도 경고된 현상이라고 자료는 전한다.¹

연구진은 이를 미분 가능한 신경망에도 ‘추론 기반 최적화’가 적용되기 시작한 징후로 해석한다. 그러나 공개 내용 스스로 “매우 초기 결과”라고 규정하고 있으며, 제시된 사례만으로 대규모 모델 전반의 가중치를 안정적으로 해석·수정할 수 있다고 일반화하기는 어렵다. 특히 외부 평가나 재현 결과, 수정이 다른 능력과 안전성에 미치는 영향은 자료에서 확인되지 않는다.

읽기 목록은 이 브라우저에 저장됩니다.