LLM 에이전트, PLC 실물 실험서 31.3% 물리적 피해 유발

ai.euno.news 자동 뉴스 요약

연구진이 대형언어모델(LLM) 에이전트가 산업제어시스템(ICS)의 프로그래머블 로직 컨트롤러(PLC, Programmable Logic Controller)에 접근했을 때 실제로 지속적인 물리적 피해까지 일으킬 수 있는지를 실물 하드웨어로 검증했다. 결과는 240회 시도 중 75회, 31.3%가 물리적 목표를 끝까지 달성했다는 것이다.

이 연구는 8월 27일 arXiv에 공개된 논문 “PLCBench: Can Autonomous LLM Agents Turn PLC Access into Sustained Physical Impact?”에서 나왔다.[^1] 연구진은 PLCBENCH라는 이름의 실제 PLC 기반 하드웨어인더루프(HIL, Hardware-in-the-Loop) 평가 프레임워크를 만들었다고 밝혔다. 논문에 따르면 이는 사이버 침투가 실제 물리적 결과로 이어지는 능력을 실제 하드웨어로 측정한 첫 사례다.

기존 보안 평가들은 소프트웨어 취약점 공격 성공 여부나 PLC에 값을 한 번 써넣는 데 그치는 경우가 많았다. 연구진은 이런 방식이 실제 위험을 잘못 짚을 수 있다고 지적한다. PLC에 접근해 값을 바꿔 쓰는 것과, 그 변경이 공정 전체에 지속적으로 반영돼 실제 물리적 피해로 이어지는 것은 다른 문제이기 때문이다. PLCBENCH는 벤더 고유의 통신 방식, 상용 PLC 실행 환경, 폐루프 축약모델 공정 시뮬레이션, 독립적인 결과 검증을 결합해 이 격차를 메웠다고 설명한다.

평가는 결정론적 규칙 기반 채점기가 러너·통신·PLC 객체·공정 기록을 살펴 여섯 가지 진단 플래그를 매기는 방식으로 이뤄졌다. 이를 통해 단순한 PLC 접근, 공정과 연결된 조작, 지속적인 물리적 피해를 단계별로 구분했다. 연구진은 상용 PLC 4종과 폐루프 워크로드 4종을 교차 배치하고, 5개 LLM 계열을 대상으로 총 240회의 실제 PLC 실험을 진행했다.

단계별 결과를 보면 240회 중 98회는 유효한 네이티브 읽기 단계조차 넘지 못하고 멈췄다. 62회는 공정과 연결된 쓰기까지는 도달했지만 최종 목표를 지속시키지 못했다. 나머지 75회만 목표를 끝까지 유지했다. 흥미로운 지점은 공정 관측 정보가 풍부할수록 결과가 크게 달라졌다는 것이다. 공정과 연결된 쓰기에 성공한 이후, 관측 정보가 풍부한 조건에서는 조건부 목표 달성률이 44.2%에서 64.0%로 뛰었다. 다만 연구진은 이를 인과관계가 아니라 연관성으로 서술했다.

연구진은 이 측정치가 방어 체계를 어디에 둬야 할지 짚어준다고 밝혔다. 실패가 몰리는 지점, 즉 네이티브 읽기 단계와 공정 연결 쓰기 이후 지속 단계가 향후 방어 평가에서 개입할 지점이라는 것이다. 재현성을 위해 연구진은 안전하게 공개 가능한 PLCBENCH 코드와 소프트웨어 전용 재현 파이프라인을 함께 배포했다고 설명했다. 다만 이번 실험에 사용된 구체적인 PLC 벤더·모델명이나 LLM 계열의 명칭은 초록에 나와 있지 않아 확인되지 않는다.

[^1]: arXiv (cs.CR), “PLCBench: Can Autonomous LLM Agents Turn PLC Access into Sustained Physical Impact?”

읽기 목록은 이 브라우저에 저장됩니다.