에디터 브리핑
AI 생성 개념 삽화 · 실제 사건을 촬영한 사진이 아닙니다.
LLM 에이전트의 적용 범위가 소아 당뇨 예측과 AI 인프라 설계로 넓어지는 가운데, 난독화 공격에 대한 방어 과제도 함께 부각됐다. 성능 향상 가능성과 근거·검증 구조를 보여주지만, 세 연구 모두 초기 평가 범위의 한계를 고려해야 한다.
- 소아 당뇨 예측 LLM, 기존 모델 앞서
CEDAR가 의료기록과 혈당 자료를 함께 분석해 기존 모델보다 높은 예측 성능을 보였다. 근거 인용과 자체 점검이 특징이지만 외부 검증과 실제 진료 유용성은 확인이 필요하다.
- LLM 에이전트 기반 AI 인프라 공동 설계
Formulaic은 에이전트가 설계 문제를 정식화하고 솔버와 검증을 결합해 하드웨어·소프트웨어를 공동 최적화한다. 구성 요소별 성과와 종단 간 검증의 간극을 살펴볼 만하다.
- LLM 7종 평가서 난독화 탈옥 공격 최다 성공
7개 LLM 비교에서 난독화 공격의 평균 성공률이 54.3%로 가장 높았다. 자기 상기 프롬프트가 취약 모델 2종에서 효과를 보였지만 다른 모델로의 일반화는 검증되지 않았다.
· · 자동 요약이며 원문 출처를 함께 확인해 주세요.
최근 소식
기사 통계를 확인하고 있습니다.
-
소아 당뇨 예측 LLM, 기존 모델 앞서
의료기록과 혈당 자료를 분석하는 CEDAR가 소아 당뇨 임상 결과 예측에서 기존 모델보다 높은 성능을 보였다.
-
LLM 에이전트 기반 AI 인프라 공동 설계
Formulaic은 LLM 에이전트의 문제 정식화와 수학적 최적화·검증을 결합해 하드웨어와 소프트웨어를 함께 개선한다.
-
LLM 7종 평가서 난독화 탈옥 공격 최다 성공
난독화 공격의 평균 성공률은 54.3%였고, 자기 상기 프롬프트가 두 취약 모델의 방어에 가장 효과적이었다.
-
리무루, LLM 서빙 메모리 통합 관리
리무루는 가중치와 어텐션 메모리를 통합해 처리량을 최대 19.03배 높였다고 보고했다.
-
REALM, LLM 에이전트 접근권한 최소화
REALM은 작업 자산의 발견과 사용 허가를 분리해 프롬프트 인젝션 공격 성공률을 0.2%로 낮췄다.
-
무작위 미해결 추측 평가셋 공개
OpenConjecture는 무작위 추측 200개로 언어모델의 수학 추론과 후보 해답 생성 능력을 평가한다.
-
AI 비서 스타트업 올리, 11월 6일 종료
개인정보 보호를 내세운 올리가 경쟁 심화와 성장·후속 투자 유치의 한계로 서비스를 종료한다.
-
넷플릭스, GPU 신뢰성 플랫폼 공개
넷플릭스가 다계층 진단과 자동 복구로 GPU 노드 가용성 99.95%, 작업 성공률 99.5% 이상을 달성했다.
-
생성형 AI, 코딩 시간 줄이고 검토 부담 키워
생성형 AI가 코드 작성 시간을 52% 줄였지만 저품질 PR 증가로 오픈소스 메인테이너의 부담은 커졌다.
-
클라우드플레어, AI용 웹 검색 API 출시
클라우드플레어가 여러 검색 제공자의 최신 웹 정보를 AI 추론에 연결하는 통합 API를 베타 출시했다.
-
GitHub, 악성 패키지 막는 npm Firewall 공개
GitHub가 정책 기반 검사와 냉각 기간으로 의심스러운 npm 패키지 설치를 차단하는 기능을 출시했다.
-
위키미디어, AI 학습과 원문 대체 구분 촉구
위키미디어재단은 LLM 학습은 공정 이용으로 보호하되 원문을 대체하는 출력에는 허락이 필요하다고 주장했다.