피그마, AI 에이전트로 보안 알림 조사·대응 자동화

ai.euno.news 자동 뉴스 요약

피그마가 AI 에이전트에게 보안팀 알림 조사와 코드 수정 초안 작성까지 맡긴 사례를 공개했다. 인포큐(InfoQ)에 따르면 피그마 엔지니어링팀은 자사 블로그를 통해 이 시스템의 설계와 성과를 문서로 정리했는데, 복잡한 알림 처리 시간을 약 70% 단축하고 온콜 호출을 20% 줄인 것으로 나타났다.

이 시스템은 보안정보이벤트관리(SIEM) 도구 판터(Panther)를 기반으로 한다. 알림이 들어오면 에이전트가 AWS, 오크타(Okta), 깃허브(GitHub), GCP, 그리고 SQL로 시스템 정보를 조회하는 오픈소스 도구 오스퀘리(osquery)의 감사 로그를 살피고, 여기에 더해 100여 개의 다른 소스까지 조회한다. 전직 피그마 보안 엔지니어 매튜 설리번(Matthew Sullivan, 현재 니션 소속)과 피그마 보안 엔지니어링 매니저 브래드 지라르도(Brad Girardeau)는 “알림 심사(triage) 에이전트가 클로드 오퍼스(Claude Opus) 같은 모델을 사용해 실제 조사의 대부분을 수행한다”고 밝혔다. 이 에이전트는 슬랙 스레드 전체 이력과 자체 학습 메모리, 온콜 엔지니어가 심사 단계에서 쓸 법한 도구 세트를 받는다.

과거 알림 검색과 판터 데이터 조사에는 AWS 베드록 지식 베이스(Bedrock Knowledge Bases), 아마존 켄드라(Amazon Kendra), 타인즈(Tines), 스노우플레이크(Snowflake) 기반 도구가 쓰인다. 설리번과 지라르도는 “시스템이 시간이 지나며 얼마나 유용해졌는지를 좌우한 가장 큰 요인은 메모리였다”고 설명한다. 메모리는 과거 알림, 행동 지침, 학습된 데이터베이스 구조 세 종류로 나뉘며, 이를 분리해 관리한 것이 핵심이었다고 두 사람은 강조한다.

안전장치는 도구 단에 내장돼 있다. 에이전트가 만든 풀 리퀘스트(PR)는 기본값이 초안(draft) 상태로 설정되고, 민감한 정보가 공개 슬랙 채널에 노출되지 않도록 프롬프트를 설계했다.

별도로 공개된 “How Figma stays ahead of vulnerabilities with agents”에서는 취약점 탐지 에이전트의 성과도 다뤘다. 이 에이전트는 기존 도구가 놓친 치명적 결함 두 건을 포함해 이전에 알려지지 않은 취약점 100건 이상을 찾아냈고, 코드 리뷰어는 한 달 만에 정밀도 80%에 도달했다. 2차 검토 단계를 추가해 기존 버그 탐지율을 약 30% 개선했고, 자동화된 가이드를 도입한 뒤 일부 코딩 오류는 약 50% 줄었다고 밝혔다. 다만 저자들은 “정확한 방법을 그대로 알려줄 수는 없다”며 “회사 규모, 직면한 위험, 이미 운영 중인 피드백 루프에 따라 방법이 달라진다”고 선을 그었다. 이들이 얻은 핵심 교훈은 재현율(recall)보다 정밀도(precision)를 먼저 높여야 한다는 것으로, 기존에 축적된 과거 버그 데이터로는 재현율만 측정할 수 있을 뿐 먼저 잡아야 할 정밀도 개선에는 큰 도움이 되지 않기 때문이라고 설명했다.

에이전트에 더 큰 권한을 줄수록 사람의 승인 절차를 어디까지 유지해야 하는지는 여전히 풀리지 않은 문제다. 클라우드 보안 기업 위즈(Wiz)는 “GhostApproval: A Trust Boundary Gap in AI Coding Assistants” 보고서에서 AI 코딩 어시스턴트 6종이 악성 저장소에 속아 사용자에게는 무해해 보이는 승인 프롬프트를 띄우도록 조작될 수 있었다고 보고했다. 인포큐도 최근 오픈AI(OpenAI)의 샌드박스 이탈 관련 공개 내용을 별도로 다룬 바 있다. 피그마 역시 자사 에이전트가 완벽하지 않다는 점을 인정하면서도, 사람과 AI 중 하나를 택하는 문제가 아니라 자동화와 인간 검토 사이의 균형을 계속 조정해 가는 과정이라고 정리했다.

읽기 목록은 이 브라우저에 저장됩니다.