OpenAI, 사이버보안 특화 모델 공개

ai.euno.news 자동 뉴스 요약

OpenAI가 취약점 탐색과 익스플로잇 개발 능력을 끌어올린 사이버보안 특화 모델 GPT-6 Cyber를 출시했다. OpenAI는 이 모델의 공격 역량을 전작의 ‘높음’보다 한 단계 높은 ‘중대’로 평가했다. 그만큼 접근도 제한한다. 초기에는 승인받은 일부 데이브레이크 레드(Daybreak Red) 고객만 쓸 수 있으며, 이후 전체 레드 이용자로 확대할 계획이다.¹

GPT-6 Cyber는 범용 모델 GPT-6 Astra를 기반으로 한다. OpenAI는 충돌 재현, 취약점 탐색, 익스플로잇 개발을 강화학습으로 훈련하는 동시에 사용자가 허가받은 범위를 지키고 불필요한 거절은 줄이도록 보상했다고 설명했다. 원격 표적의 지정된 취약점을 공략하는 ExploitGym 점수는 48.5%로, GPT-5.6 Cyber의 32.1%보다 16.4%포인트 높았다. 소스 코드 없이 웹 애플리케이션 취약점을 찾는 시험에서도 40.3%를 기록해 GPT-6 Astra의 32%를 앞섰다.¹

알려진 취약점으로 공격 코드를 만드는 ExploitBench에서는 평균 역량 점수 100%를 기록했다. 다만 시험에 2023년까지 거슬러 올라가는 취약점이 포함돼 일부 사례가 학습 데이터에 들어갔을 가능성이 있다. OpenAI도 이 때문에 결과가 부풀려졌을 수 있다고 인정했다.¹

공격 능력과 함께 강조한 부분은 작업 범위 통제다. OpenAI는 샌드박스 안에 공략하기 쉬운 패키지 저장소나 객체 스토리지 같은 미끼 서비스를 배치한 ExploitGym Honeypot을 만들었다. GPT-6 Cyber는 안전 프롬프트가 없어도 시험의 99.93%에서 범위 밖 서비스를 건드리지 않았고, 프롬프트를 적용하면 이탈이 한 번도 없었다. 같은 조건에서 GPT-5.6 Cyber의 이탈률은 5.51%, 범용 GPT-5.6 Sol은 약 50%였다. 기반 모델인 GPT-6 Astra 역시 미끼를 공격하지 않았다.¹

OpenAI는 내부 연구진이 GPT-6 Cyber로 파이어폭스와 리눅스 커널의 결함을 찾고 익스플로잇을 만들었다고 밝혔다. 테크크런치에 따르면 리눅스 커널에서는 잠재적 문제 948건, 파이어폭스에서는 새로운 취약점 81건을 찾았다.² 다만 강력한 모델을 제한된 인원에게만 제공하는 방식이 방어 역량을 충분히 넓힐지는 불분명하다. 현재 데이브레이크 참여자는 수천 명 수준인 반면 잠재적 공격자는 훨씬 많고, 방어 연구자들은 접근 제한이 오히려 공개 가중치 모델을 쓰는 공격자보다 불리하게 만든다고 지적한다.² 두 매체는 같은 발표 모델을 각각 GPT-6 Cyber와 ChatGPT Cyber로 표기해 명칭도 엇갈린다.

읽기 목록은 이 브라우저에 저장됩니다.