에디터 브리핑
AI 생성 개념 삽화 · 실제 사건을 촬영한 사진이 아닙니다.
LLM 생태계의 과제가 모델 성능을 넘어 소프트웨어 호환성, 보안 대응, 학습 인프라 효율로 넓어지고 있다. SQLite의 자료형 의미를 명시한 수정, 서사형 허니팟, 꼬리 응답 스케줄링은 각 계층에서 안정성과 효율을 높이는 접근을 보여준다.
- LLM 0.37.3, SQLite 호환성 문제 수정
SQLite의 버그 수정이 상위 프로그램의 장애로 이어진 사례다. 하위 쿼리 결과를 `json()`으로 감싸 자료형 의미를 명시해야 했던 이유를 살펴볼 수 있다.
- 일관된 서사 미끼, 공격자 체류 늘려
허니팟에서는 미끼의 양보다 단서가 이어지는 서사가 공격자의 조사를 오래 붙잡았다. 고급 공격자일수록 일관성의 효과가 커졌다는 실험 결과가 주목할 만하다.
- TAILROLL, LLM 강화학습 롤아웃 24~34% 단축
가장 긴 응답 때문에 전체 학습이 지연되는 문제를 요청 이전과 조기 종료로 줄였다. 롤아웃 시간 단축과 연산 낭비 감소를 함께 겨냥한 스케줄링 설계를 확인할 수 있다.
· · 자동 요약이며 원문 출처를 함께 확인해 주세요.
최근 소식
기사 통계를 확인하고 있습니다.
-
LLM 0.37.3, SQLite 호환성 문제 수정
SQLite 3.54.1의 JSON 처리 변경에 맞춰 LLM의 로깅 코드가 수정됐다.
-
일관된 서사 미끼, 공격자 체류 늘려
LLM 기반 허니팟에서 연결된 서사형 미끼가 고급 공격자의 세션을 늘리고 포기율을 낮췄다.
-
TAILROLL, LLM 강화학습 롤아웃 24~34% 단축
꼬리 응답을 이전·조기 종료하는 스케줄링으로 LLM 강화학습의 롤아웃 지연과 연산 낭비를 줄였다.
-
BugGen 2.0, RTL 버그 합성 비용 절감
LLM을 국소 코드 변이에 집중하고 구조 분석·검증을 알고리즘에 맡겨 토큰과 시뮬레이션 비용을 줄였다.
-
구글, AI 시대 맞춰 SRE 책 전면 개정
구글이 클라우드·플랫폼 엔지니어링·AI 워크로드와 자동화된 신뢰성 관리를 반영해 SRE 책 2판을 냈다.
-
LLM 81.5%, 시스템 프롬프트 비밀 유출
에이전트형 CTF 실험에서 LLM 363개 중 296개가 시스템 프롬프트의 비밀 플래그를 유출했다.
-
세레브라스, GPU·WSE 분리형 추론 출시
GPU가 프리필을, WSE가 디코드를 맡아 생성 속도를 유지하며 전력당 처리량을 5배 높였다고 밝혔다.
-
AWS 세이지메이커, KV 캐시 인식 라우팅 추가
프롬프트 캐시 상태와 인스턴스 부하를 함께 고려해 LLM의 중복 연산을 줄이는 라우팅 기능이다.
-
MS, 협업형 AI 공간 ‘코파일럿 워크스페이스’ 공개
사람과 AI 에이전트가 업무 맥락을 공유하며 협업하는 공간으로, 출시 일정과 가격은 공개되지 않았다.
-
젠슨 황 복귀 청원, 오픈소스 AI 논쟁 확산
젠슨 황 복귀 청원이 확산했지만 중국의 엔비디아 칩 확보 의혹과 새 규정이 복귀 명분을 압박한다.
-
LLM, 일부 코드로 악성 파일 선별
TRIAGE-CPG는 평균 40개 함수만 분석해 윈도 실행 파일 악성 여부를 최대 0.805 균형 정확도로 판별했다.
-
MS, 코딩 비용 줄이는 토큰이코노마이저 공개
코딩 에이전트의 저장소별 경험을 재사용해 성공률을 유지하며 토큰 비용을 18.4~30.9% 줄였다.