NVIDIA udgiver Nemotron 3.5 Lightning til eksekveringslaget i AI-agenter

NVIDIA har udgivet Nemotron 3.5 Lightning, en åben sprogmodel opbygget som mixture-of-experts (MoE) med i alt 30 milliarder parametre, hvoraf 3 milliarder er aktive per forespørgsel. Modellen er bygget til det, NVIDIA kalder eksekveringslaget hos langvarigt kørende AI-agenter, det vil sige de højvolumenopgaver hvor en agent foretager værktøjskald, validerer resultater og uddelegerer til subagenter. Ifølge NVIDIA bruger den type agenter størstedelen af deres tid netop på denne eksekvering, og at bruge en frontier reasoning-model til hvert eksekveringsskridt øger både omkostninger og ventetid. Nemotron 3.5 Lightning er designet til at dække den del af arbejdet i stedet.