Hugging Face udgiver 207 WebGPU-kernels til hurtigere AI-inferens i browseren

Hugging Face har udgivet @huggingface/kernels, et JavaScript-bibliotek til at hente og køre optimerede WebGPU-kernels direkte fra Hugging Face Hub. Den første samling omfatter 207 kernels, udgivet under Apache 2.0-licens i organisationen webgpu-kernels. Hver kernel er publiceret som et selvstændigt, versioneret repository med manifest, korrekthedstests, benchmarks og WGSL-shaderskabeloner. Biblioteket installeres via npm install @huggingface/kernels@preview og kræver en browser med WebGPU-understøttelse. Hugging Face har testet kernels mod ORT WebGPU i ONNX Runtime Web 1.30.0-dev.20260826-b1f76d586a på en Apple M4-GPU. Ud af 809 sammenlignelige testcases var kernels i gennemsnit 2,57 gange hurtigere målt på geometrisk middelværdi og 1,9 gange hurtigere målt på medianen, med 629 sejre mod 176 tab. For operationen Add blev der målt en hastighed på 3,52 gange, for Softmax 2,11 gange og for LayerNormalization 2,22 gange. Samtidig lanceres værktøjet Fleet, der lader brugere teste og benchmarke kernels på egen GPU i browseren.