Hugging Face がローカル AI 用の WebGPU カーネルを発表しました
Hugging Faceは、ウェブブラウザでのローカルAI推論を加速するために200以上のWebGPUカーネルを紹介し、速度とユーザー体験の向上を目指しています。
Hugging Faceは、ウェブブラウザでのローカルAI推論を加速するために200以上のWebGPUカーネルを紹介し、速度とユーザー体験の向上を目指しています。
TL;DR Why start with kernels? A kernel repository, not just a shader Loading a kernel from the Hub How fast are the kernels? From one device to a fleet Building a shared foundation for WebAI One of our biggest goals on the WebAI team at Hugging Face is to make browser inference…
Today, we are releasing the first layer of that effort: @huggingface/kernels , a minimal library for loading and running optimized WebGPU kernels from the Hugging Face Hub, together with an initial collection of 207 kernels at huggingface.co/webgpu-kernels .