Google lancerer EmbeddingGemma 2 til lokal multimodal søgning

Google har udgivet EmbeddingGemma 2, en open source embedding-model der kan køre direkte på egen hardware. Modellen er bygget på Gemma 4-arkitekturen, udgivet under en Apache 2.0-licens og har 740 millioner parametre. Den kobler tekst, billeder, lyd og video sammen i et fælles embedding-rum og kan bruges til semantisk søgning og retrieval augmented generation uden internetforbindelse. Modellen er modulær: tekst-only kræver 270 millioner parametre, mens valgfri encodere til vision (170 millioner) og audio (300 millioner) tilføjer multimodal støtte. Med kvantisering kræver den tekst-only-udgaven omkring 191 MB RAM og den fulde multimodale udgave omkring 567 MB, målt på en Google Pixel 11 Pro. Kontekstvinduet er på 8.000 tokens, hvilket er fire gange større end i forgængeren, og rækker til op mod 5,5 minutters lyd eller 29 billeder ad gangen. Modellen kan hentes på Hugging Face og Kaggle og køres med blandt andet Ollama, llama.cpp og vLLM.