에디터 브리핑
AI 생성 개념 삽화 · 실제 사건을 촬영한 사진이 아닙니다.
AI 활용의 초점이 모델 연결 자체에서 운영 효율과 검증 역량으로 넓어지고 있다. Datasette는 로컬 LLM 선택권을 확대했고, 음성인식 인프라는 중단 복구로 비용을 낮췄지만, 보안 현장에서는 AI가 늘린 보고서와 패치를 검토할 사람이 병목으로 떠올랐다.
- datasette-llm, 로컬 모델 연결 지원
OpenAI 호환 API를 매개로 Datasette Agent를 LM Studio·Ollama 등과 연결하는 방법을 보여준다. 모델 실행 위치와 플러그인의 결합을 낮춘 변화다.
- AI 취약점 탐지 확산에 검토 인력 병목
AI가 취약점 탐지를 늘려도 저품질 보고서와 패치를 사람이 검증해야 한다. 탐지 성능보다 유지관리자와 검토 역량 확충이 핵심 과제로 부상한 이유를 짚는다.
- 어셈블리AI, EC2 스팟으로 음성인식 비용 절감
스팟 인스턴스 중단 시 작업을 SQS로 반환하는 구조로 추론 비용과 안정성을 함께 관리한다. 비용 절감 폭은 공개되지 않아 워크로드별 검토가 필요하다.
· · 자동 요약이며 원문 출처를 함께 확인해 주세요.
최근 소식
기사 통계를 확인하고 있습니다.
-
datasette-llm, 로컬 모델 연결 지원
OpenAI 호환 API를 통해 Datasette Agent를 LM Studio·Ollama 등 로컬 LLM과 연결할 수 있게 됐다.
-
AI 취약점 탐지 확산에 검토 인력 병목
AI가 Linux·Windows의 버그 발견을 늘렸지만 저품질 보고서와 패치를 검증할 인력이 부족해졌다.
-
어셈블리AI, EC2 스팟으로 음성인식 비용 절감
어셈블리AI는 중단 작업을 SQS로 반환하는 혼합 배포로 비용을 낮추고 SLA와 데이터 거주 요건을 충족했다.
-
파이썬으로 Jetson DLA 직접 구동
엔비디아가 Jetson AGX Orin의 DLA 추론을 파이썬에서 관리하는 cuda.bindings.cudla를 공개했다.
-
엔비디아, DGX 두 대로 GLM-5.3 분산 서빙
엔비디아가 464GB 규모 GLM-5.3을 두 DGX Station에 분산해 단일 API로 서빙하는 구성을 공개했다.
-
AWS, 베드록 AI 도구 비용 추적법 공개
베드록의 IAM 주체와 조직 태그를 활용해 AI 도구 비용을 사용자·팀별로 집계하고 분석하는 방식이다.
-
DEF CON CTF 2026, AI보다 검증·운영이 승부 갈랐다
LLM이 허용된 DEF CON CTF에서 AI 결과를 검증해 공격·방어 체계에 연결하는 역량이 핵심으로 떠올랐다.
-
클라우드플레어, AI 침투 확산에 보안 모델 제시
AI 침투 도구의 요청이 30배 늘자 클라우드플레어가 WAF·이상 탐지·접근 통제 등 6축 보안 모델을 제안했다.
-
LibreAGI, 오픈 가중치 AI 모델 보존망 공개
회원제 비트토렌트와 희소 모델 보상, 공개 카탈로그로 오픈 가중치 AI 모델의 장기 보존을 추진한다.
-
딥시크 V3 구조, 순수 JAX 190줄로 재현
MLA·MoE·균형 조정·MTP를 구현한 3,620만 매개변수 모델이 맥북 에어에서 처음부터 학습됐다.
-
엔비디아, 정수 텐서 코어로 FP64 가속
cuBLAS의 Ozaki-II가 FP64 정확도를 유지하며 행렬 곱셈을 최대 5.5배 가속했다.
-
엔비디아, 블랙홀 관측 GPU 도구 공개
cuPhoton.xBeam은 EHT의 페타바이트급 전파 데이터를 GPU로 상관 처리해 복소 가시도를 생성한다.