Ai2 “LLM의 연구 신규성 판단 불안정”

ai.euno.news 자동 뉴스 요약

Ai2가 대규모 언어 모델(LLM)이 과학 연구 아이디어의 신규성을 얼마나 믿을 만하게 판별하는지 평가하는 연구 ‘Old Ideas, Novel Problems’를 공개했다. 논문과 함께 신규성 판별 모델을 시험할 벤치마크·데이터·코드, 새 평가 세트를 만드는 자동화 파이프라인도 배포했다. 결론은 간단하다. 현재 LLM의 신규성 판단은 프롬프트와 평가 방식에 지나치게 민감하다.¹

연구팀이 평가한 신규성 판별 모델은 GPT-5.1·5.2·5.4, Claude Sonnet 4.5, Claude Opus 4.5·4.6 등 6종이다. 같은 아이디어를 놓고도 설정을 조금 바꾸면 판정이 크게 달라졌다. 한 실험에서는 프롬프트의 단어 몇 개만 고쳤는데, 두 아이디어 중 어느 쪽이 더 새로운지 맞히는 정확도가 50%포인트 넘게 움직였다. 관련 문헌 검색을 붙이거나 추론량을 늘려도 성능이 일관되게 좋아지지 않았다. 신규성 평가용으로 별도 설계한 시스템 두 개는 단순한 프롬프트를 적용한 Claude Opus 4.6보다 낮은 성능을 냈다.¹

이 문제는 AI가 연구 아이디어를 생성하는 단계까지 들어오면서 중요해졌다. Ai2는 구조화 데이터를 탐색·분석하는 데이터보이저(DataVoyager), 가설을 만들고 시험하는 오토디스커버리(AutoDiscovery), 문헌을 종합해 과학 이론 후보를 만드는 시어라이저(Theorizer) 등을 개발해 왔다. 그러나 아이디어를 만드는 것과 기존 연구를 다시 포장한 아이디어를 걸러내는 것은 별개의 과제다. 실제 연구에서는 이 판정을 다시 LLM에 맡기면서도 모델, 프롬프트, 평가 형식, 추론량, 문헌 검색 여부를 제각각 정하고 있다. 게다가 AI가 만든 아이디어를 평가할 판별 모델을 사람 논문으로만 검증하는 경우도 있다는 게 연구팀의 지적이다.¹

Ai2는 벤치마크의 근거를 마련하려고 ICLR 2026 동료평가에서 독창성을 직접 언급한 문장을 추출했다. 논문 채택 여부를 신규성의 대리 지표로 쓰지는 않았다. 다른 장점으로 채택된 논문이나, 독창적이지만 다른 약점 때문에 탈락한 논문이 있을 수 있기 때문이다. 높은 신규성 집합은 분야별 평점 상위 10% 채택 논문 가운데 심사자가 신규성을 인정하고 반론이 없었던 아이디어 154개로 구성했다. 낮은 신규성 집합은 하위 10% 탈락 논문 가운데 독창성 우려만 제기된 아이디어 145개다. 별도 검증에서는 주석자가 50건 중 47건의 신규성 신호 방향에 동의했으며, 나머지 불일치도 분류 결과를 바꾸지는 않았다.¹

다만 이 벤치마크 역시 ICLR 2026 심사 의견을 토대로 만든 만큼 과학 전 분야의 신규성 판단을 곧바로 대표한다고 보기는 어렵다. 이번 공개의 핵심은 어느 LLM이 최선인지 확정하는 데 있지 않다. 평가 절차의 작은 선택만으로 결론이 뒤집힐 수 있으므로, AI가 새 연구 방향을 제안했다는 주장에 앞서 판별 방식 자체부터 검증해야 한다는 경고에 가깝다.

읽기 목록은 이 브라우저에 저장됩니다.