llama.cpp
2건
기사 통계를 확인하고 있습니다.
-
llama.cpp·ggml 1.0 정식 출시
공개 C API에 시맨틱 버저닝을 도입해 로컬 AI 생태계의 호환성 기준을 세웠다.
-
허깅페이스, 트랜스포머스에서 GGUF 양자화 모델 직접 구동 지원
허깅페이스가 트랜스포머스 라이브러리에 llama.cpp GGUF 양자화 모델을 애플 실리콘에서 변환 없이 바로 추론하는 기능을 추가했다.
2건
기사 통계를 확인하고 있습니다.
공개 C API에 시맨틱 버저닝을 도입해 로컬 AI 생태계의 호환성 기준을 세웠다.
허깅페이스가 트랜스포머스 라이브러리에 llama.cpp GGUF 양자화 모델을 애플 실리콘에서 변환 없이 바로 추론하는 기능을 추가했다.