에디터 브리핑
AI 생성 개념 삽화 · 실제 사건을 촬영한 사진이 아닙니다.
AI 서비스의 체감 성능 측정부터 분산 워크로드 운영, 보안 추론 최적화까지 인프라 전반의 개선 시도가 이어졌다. 다만 서버리스 벤치마크는 결과값이 빠졌고, 워크로드 맵과 CipherFlow도 실제 운영 환경에서의 효과를 더 검증해야 한다.
- 디지털오션, AI 모델 4종 TTFT 측정
서버리스 AI의 체감 속도를 p50·p95·p99 TTFT로 살피는 접근을 보여준다. 모델별 수치와 측정 조건이 공개되지 않아 성능 비교에는 쓸 수 없다는 한계도 중요하다.
- 엔비디아, AI 인프라용 워크로드 맵 공개
서로 다른 쿠버네티스 분산 워크로드를 공통 형식으로 정의해 도구별 어댑터 개발 부담을 줄이는 설계다. 정량적인 지원 기간 단축 효과는 아직 제시되지 않았다.
- CipherFlow, 암호 추론 컴파일 자동화
HE와 MPC 배치 및 변환을 컴파일러가 자동 최적화해 보안 추론 개발의 복잡성을 낮춘다. BERT-base와 ViT에서 큰 향상을 보였지만 초판 논문의 제한된 조건에서 나온 결과다.
· · 자동 요약이며 원문 출처를 함께 확인해 주세요.
최근 소식
기사 통계를 확인하고 있습니다.
-
디지털오션, AI 모델 4종 TTFT 측정
디지털오션이 서버리스 AI 모델 4종의 지연 시간을 측정했지만 모델별 결과와 방법은 공개 자료에서 빠졌다.
-
엔비디아, AI 인프라용 워크로드 맵 공개
분산 AI 워크로드를 공통 형식으로 정의해 쿠버네티스의 새 프레임워크 지원을 간소화한다.
-
CipherFlow, 암호 추론 컴파일 자동화
CipherFlow가 AI 계산 그래프와 배포 환경을 분석해 HE·MPC 실행을 최적화하고 추론 속도를 높였다.
-
채점 규칙 따라 멀티모달 LLM 정확도 22%p 차이
같은 멀티모달 LLM 응답도 폴백 등 채점 규칙에 따라 정확도가 최대 22%포인트 달라졌다.
-
엔비디아, 분산 AI 학습 자동 복구 도구 공개
장애 원인을 진단해 문제 자원을 격리하고 체크포인트부터 학습을 자동 재개한다.
-
마벨, 루멘텀 1,150억달러에 인수 추진
마벨이 AI 데이터센터 광통신 역량 강화를 위해 루멘텀을 전액 주식으로 인수한다.
-
실제 악용 취약점은 전체의 0.5%
마이크로소프트는 취약점 대응 시 개수보다 악용 가능성과 침해 범위를 함께 평가해야 한다고 분석했다.
-
LLM의 신경망 가중치 직접 수정 가능성
GPT-6 Astra가 학습 루프 없이 신경망 가중치를 해석·작성·수정한 초기 실험 결과가 공개됐다.
-
정부 리눅스 서버서 AI 의심 악성코드 발견
정부·국영기관 리눅스 서버를 노린 첩보 공격에서 AI 작성이 의심되는 스크립트와 SysGoRAT이 발견됐다.
-
앤스로픽 내부 AI 사용가치, 현금 보수 추월
클로드 내부 사용량의 소매가치가 직원 현금성 보수를 넘었지만 실제 운영비와 생산성 효과는 공개되지 않았다.
-
앤스로픽, 클로드의 기존 게임 복제 제한
앤스로픽은 클로드 코드가 기존 게임을 직접 재현하지 않도록 프롬프트를 수정하고 허용 범위를 조정했다.
-
랭플로 인증 우회·코드 실행 취약점 발견
랭플로 1.0.0~1.12.8에서 치명적 취약점이 발견돼 1.13.0으로 즉시 업그레이드해야 한다.