에디터 브리핑
AI 생성 개념 삽화 · 실제 사건을 촬영한 사진이 아닙니다.
LLM 활용이 예측 평가, 피지컬 AI 데이터 생성, 로봇 제어로 확장되면서 정보 수집 조건과 관리 경로의 안전성이 핵심 과제로 떠올랐다. 고정된 검색 증거로 성능을 분리 측정하는 벤치마크부터 합성 데이터 자동화, 무인증 설정 공격까지 개발·평가·보안의 흐름을 함께 살펴본다.
- LLM 예측 평가 벤치마크 공개
모델의 추론력과 검색 품질을 분리해 평가하는 방법을 보여준다. 고정된 증거로 시험하자 모든 LLM이 시장보다 뒤졌고, 필요한 정보를 찾지 못한 점이 큰 원인으로 나타났다.
- 엔비디아, 두 프롬프트 데이터 워크플로 공개
두 프롬프트로 피지컬 AI용 합성 데이터의 환경 구성부터 생성·평가까지 연결하는 워크플로다. 단순한 인터페이스 뒤에서 어떤 자동화 단계가 작동하는지 확인할 수 있다.
- LLM 로봇 설정 바꾸는 무인증 공격
대화형 공격을 막아도 인증 없는 관리 경로가 시스템 프롬프트를 바꿀 수 있음을 실제 로봇에서 입증했다. LLM 안전 점검과 함께 설정·기억 계층의 접근 통제가 필요한 이유를 보여준다.
· · 자동 요약이며 원문 출처를 함께 확인해 주세요.
최근 소식
기사 통계를 확인하고 있습니다.
-
LLM 예측 평가 벤치마크 공개
포캐스트짐은 과거 검색 결과를 고정해 LLM의 검색 품질과 사건 예측 추론 능력을 분리 평가한다.
-
엔비디아, 두 프롬프트 데이터 워크플로 공개
엔비디아 코스모스가 환경 설정과 작업 지시만으로 피지컬 AI용 합성 데이터를 생성·평가한다.
-
LLM 로봇 설정 바꾸는 무인증 공격
리치 미니 라이트의 인증 없는 관리 경로를 통해 시스템 프롬프트와 행동 지침을 바꾸는 공격이 입증됐다.
-
슬럼 26.11, QPU 직접 스케줄링 지원
HRES 플러그인이 클러스터 공용 QPU의 예약·추적·과금을 슬럼 스케줄러에 통합한다.
-
AWS, 세이지메이커에 OpenTSLM 추가
AWS가 시계열 데이터와 업무 맥락을 함께 분석하는 OpenTSLM의 배포를 지원한다.
-
오픈서치 3.10, AI 에이전트 추적 강화
오픈서치 3.10이 AI 대화 오류 추적을 도입하고 하이브리드 검색과 데이터 수집·복구를 간소화했다.
-
RSI-Prime, LLM 훈련 설계 능력 향상
RSI-Prime으로 훈련한 GLM-5.3이 자율 사후 훈련 벤치마크에서 상대적으로 31.95% 향상됐다.
-
BORN, 단일 GPU로 양자화학 계산 가속
BORN은 실행 전 성능 예측으로 맞춤 코드를 생성해 단일 GPU에서 유비퀴틴 계산을 2.1시간에 마쳤다.
-
에이수스·델·MSI, RTX Spark 미니 PC 출시
RTX Spark N1X와 최대 128GB 메모리를 갖춘 로컬 AI 개발용 미니 PC가 4,499달러부터 출시됐다.
-
LLM 0.37.3, SQLite 호환성 문제 수정
SQLite 3.54.1의 JSON 처리 변경에 맞춰 LLM의 로깅 코드가 수정됐다.
-
일관된 서사 미끼, 공격자 체류 늘려
LLM 기반 허니팟에서 연결된 서사형 미끼가 고급 공격자의 세션을 늘리고 포기율을 낮췄다.
-
TAILROLL, LLM 강화학습 롤아웃 24~34% 단축
꼬리 응답을 이전·조기 종료하는 스케줄링으로 LLM 강화학습의 롤아웃 지연과 연산 낭비를 줄였다.