에디터 브리핑
AI 생성 개념 삽화 · 실제 사건을 촬영한 사진이 아닙니다.
로컬·자체 배포 AI의 선택지가 넓어지면서, 체감 속도와 하드웨어 조건을 함께 따져야 할 필요성이 커졌다. llmspeed는 구매 전 성능 비교를 돕고, 서피스 랩톱 울트라와 오픈웨이트 코딩 모델 빔은 실제 운용에서 전원·양자화·메모리 구성이 중요함을 보여준다.
- 로컬 LLM 속도 비교 도구 ‘llmspeed’ 공개
하드웨어별 로컬 LLM 응답 속도를 구매 전에 체감·비교할 수 있다. 다만 실측값과 추정값이 섞여 있어 측정 근거와 단일 기기·짧은 프롬프트라는 조건을 확인해야 한다.
- 서피스 랩톱 울트라, 로컬 AI 성능 입증
로컬 AI 노트북의 성능이 모델 구조와 양자화, 전원 연결 여부에 따라 얼마나 달라지는지 구체적인 수치로 보여준다. 높은 가격과 배터리 성능 저하도 함께 살펴볼 만하다.
- Reflection AI, 코딩 모델 빔 공개
장기 코딩과 도구 사용을 겨냥한 5,010억 매개변수 오픈웨이트 모델의 배포 선택지를 정리한다. 실제 도입에는 체크포인트뿐 아니라 KV 캐시와 GPU 용량, 런타임 구성까지 계산해야 한다.
· · 자동 요약이며 원문 출처를 함께 확인해 주세요.
최근 소식
기사 통계를 확인하고 있습니다.
-
로컬 LLM 속도 비교 도구 ‘llmspeed’ 공개
하드웨어 구매 전 로컬 LLM의 예상 응답 속도를 비교·체감할 수 있는 오픈소스 도구가 공개됐다.
-
연속 확산 언어 모델용 트랜스포머 공개
LangDiT는 기존 확산 방식은 유지하고 백본 구조를 개선해 연속 언어 생성 퍼플렉서티를 낮췄다.
-
앤트로픽 직원과 대중의 AI 전망 격차
앤트로픽 직원은 미국 대중보다 2030년 AI의 과학·업무 수행 능력과 발전 속도를 훨씬 높게 전망했다.
-
앤스로픽, 외부 AI 평가자에 내부 접근권
앤스로픽이 METR 평가자 6명에게 직원급 접근 권한을 제공해 프런티어 AI 안전성을 검증한다.
-
서피스 랩톱 울트라, 로컬 AI 성능 입증
강력한 로컬 AI 성능을 보였지만 배터리 사용 시 성능 저하와 높은 가격이 약점으로 지적됐다.
-
Reflection AI, 코딩 모델 빔 공개
장기 코딩과 도구 사용에 특화된 오픈웨이트 모델 빔이 AWS 세이지메이커 점프스타트에 출시됐다.
-
엔비디아, AI 개발용 RTX 스파크 PC 공개
블랙웰 GPU와 최대 128GB 통합 메모리로 AI 개발 전 과정을 로컬에서 처리하는 고가형 PC다.
-
현실 업무 평가 벤치마크 FDE-Gym 공개
모호한 요구와 숨은 제약을 다루는 FDE-Gym에서 최고 AI 에이전트도 평균 0.56점에 그쳤다.
-
GitLab 19.5, MCP·시크릿 관리 정식 출시
GitLab이 MCP 서버와 시크릿 관리를 정식 출시하고 외부 AI 에이전트 감사·보안 기능을 확대했다.
-
LLM, 저자원 양자 회로 설계 발견
LLM과 독립 평가기를 결합한 탐색 방식이 8개 과제 중 7개에서 게이트와 큐비트 수를 줄였다.
-
버셀, 저지연 추론 모델 ‘Cat Jam’ 공개
코딩·에이전트 작업용 스텔스 모델로 무료 제공되지만 프롬프트 보관 가능성에 유의해야 한다.
-
FLUX.3 Image Klein, Diffusers 통합
허깅페이스가 이미지 생성·편집과 레이아웃 제어를 지원하는 FLUX.3 Image Klein을 Diffusers에 통합했다.