llama.cpp runder version 1.0.0 efter 3,5 års udvikling

Projektet llama.cpp har udgivet version 1.0.0 af sine to kernebiblioteker, llama.cpp og ggml, efter 3,5 års udvikling. Med udgivelsen indfører projektet strammere semantisk versionering: fremtidige brud på det offentlige C-API i libllama og libggml udløser fremover en opdatering af hovedversionsnummeret, mens bagudkompatible funktioner og nye modeller tæller som mindre opdateringer. llama.cpp understøtter nu mere end 150 modelarkitekturer samt gængse metoder til spekulativ afkodning. Biblioteket distribueres blandt andet via Docker, Debian, Homebrew, conda-forge, MacPorts, Winget og som XCFramework til Apple-platforme. Udviklingen af ggml-backends, der gør det muligt at køre llama.cpp på stort set alle former for hardware, understøttes blandt andet med ressourcer fra Nvidia, AMD, Qualcomm, Arm, IBM og Intel.