NVIDIA udvider Nemotron-familien med nye Super VL- og Bolt-modeller

NVIDIA har udgivet Nemotron 3.5 Super VL, en åben model med 120 milliarder parametre til agentopgaver med billed- og dokumentforståelse. Samtidig lancerer NVIDIA to mindre Bolt-modeller til lokal kørsel: Nemotron 3.5 Bolt 74B-A9B, der med en indbygget 2-bit kvantisering fylder 24 GB og kan køre på RTX- og DGX Spark-systemer, og Nemotron 3.5 Bolt E4B på 4 GB til GeForce RTX, Jetson og RTX/DGX Spark. Super VL og Bolt 74B-A9B er tilgængelige nu, Bolt E4B følger 23. oktober. Vægtene ligger på Hugging Face, og Bolt 74B-A9B understøttes af llama.cpp, Ollama, LM Studio, Unsloth og vLLM. Super VL er trænet på omkring 26 billioner tokens og kan desuden hentes via Open Router, ModelScope og som NVIDIA NIM. Bolt 74B-A9B er ifølge NVIDIA den bedst placerede åbne model i sin klasse på benchmarket PinchBench og nummer to blandt åbne modeller på BrowseComp.