코그니션, AI 에이전트로 RSA-260 인수분해 성공

ai.euno.news 자동 뉴스 요약

RSA-260 인수분해에 성공했다고 코그니션(Cognition)이 9일(현지시간) 자사 블로그를 통해 발표했다. 자사 AI 코딩 에이전트 ‘데빈(Devin)‘을 다수 투입해 RSA 인수분해 챌린지 사상 최대 규모인 260자리 수의 소인수를 찾아냈다는 내용이다. 이전 기록인 RSA-250은 2020년 2월에 나왔으니, 6년 만에 경신된 셈이다.

RSA 인수분해 챌린지는 RSA 암호 체계의 안전성을 가늠하는 벤치마크다. 두 소수를 곱한 합성수를 다시 원래의 두 소수로 쪼개는 문제인데, 자릿수가 늘어날수록 난이도가 기하급수적으로 커진다. 코그니션은 이번 작업에 일반수체체(GNFS, general number field sieve) 알고리즘을 GPU에 맞게 새로 구현해 사용했다고 밝혔다. 오픈소스 인수분해 도구인 CADO-NFS를 대폭 수정한 것으로, 알고리즘 자체를 새로 개발한 것은 아니고 GPU의 메모리 구조를 살린 성능 엔지니어링이 핵심이었다고 설명했다.

비용은 약 4,900 GPU-일(13.5 GPU-년), 현재 시장 가격 기준 40만 달러 정도로 추산했다. 세부적으로는 다항식 선택 단계에 643 GPU-일이 들었는데, 이는 작업 운영 미숙 때문에 비정상적으로 높게 나온 수치라고 자평했다(이후 단계 세부 내역은 자료에서 확인되지 않았다). 코그니션은 이 결과로 만든 격자 체(lattice siever)가 기존 공개된 최고 수준 대비 10배 낮은 비용으로 숫자를 인수분해할 수 있다고 주장했다.

글쓴이가 강조한 대목은 두 가지다. 첫째, 하이퍼스케일러나 프런티어 AI 랩 수준의 자원이면 1024비트(약 309자리) RSA 키를 숫자당 약 3,000만 달러 규모로 깨는 것이 가능해 보이며, 추가 최적화로 비용이 더 낮아질 여지가 있다는 것이다. 다만 1024비트 RSA는 2013년에 이미 사용 중단(deprecated)된 규격이다. 실무에서 쓰이는 2048비트(약 617자리) RSA는 1024비트보다 약 10억 배 어려운 문제로, 이번 결과의 직접적인 영향권 밖이라고 코그니션은 선을 그었다.

둘째는 에이전트의 역할이다. 글쓴이는 자신의 역할을 우선순위 설정, 벤치마크 수립, 작업이 궤도를 벗어났을 때 판단하는 정도로 한정했다고 밝혔다. 측정, 클러스터 운영, 최적화는 데빈이 자율적으로 처리했으며, 이는 원래대로라면 계산수론과 GPU 성능 엔지니어링 전문가 팀이 수개월에 걸쳐 했을 법한 작업이라고 설명했다.

이번 발표를 두고 온라인에서 “데빈이 130자리 소수를 손으로 찍어서 맞췄다”거나 코그니션이 대규모 양자컴퓨터를 개발했다는 식의 억측이 돌았는데, 글쓴이는 이를 명시적으로 부인했다. 실제로는 GPU 기반 GNFS 구현이라는 고전적 방법론의 성능 최적화 결과라는 것이다.

읽기 목록은 이 브라우저에 저장됩니다.