Meta udgiver åben 30B-model Muse Glimmer optimeret til NVIDIA-hardware

Meta vender tilbage til open source med lanceringen af Muse Glimmer, en åben model med 30 milliarder parametre og et kontekstvindue på over 120.000 tokens. Modellen er en dense model, hvis vægte er offentligt tilgængelige, og den er bygget til at køre lokale, agentbaserede AI-arbejdsgange. Ifølge NVIDIA Developer er Muse Glimmer optimeret til at afvikle på NVIDIA's platforme til edge, desktop og workstation, og modellen leverer 20.000 tokens i sekundet på et enkelt grafikkort. Det åbner for altid-aktive agenter, der behandler data lokalt og udfører agentbaserede arbejdsgange direkte på brugerens egen hardware.