Hugging Face beskriver decision models som alternativ til tekstgenererende LLM'er

Hugging Face har offentliggjort en gennemgang af decision models, en modeltype der i stedet for at generere tekst returnerer en sandsynlighedsfordeling over foruddefinerede svar. Modellerne tager et input, kaldet state, og et sæt spørgsmål med faste svarmuligheder, kaldet primitiver. Der findes tre typer: choice vælger mellem flere svarmuligheder, score beregner en forventningsværdi på en ordnet skala, og noul angiver en sandsynlighed for et ja/nej-spørgsmål. Begrebet stammer fra TypeSafe AI, som kaldte sin model Jev for en System One-model, et navn fællesskabet siden har erstattet med decision model. Ifølge gennemgangen kan modeller af typen serveres via Transformers og llama.cpp, trænes med Hugging Face-værktøjer og findes på Hugging Face Hub, blandt andet modellen autotrust/GEV-26B-Decide, som bruges som eksempel i artiklen.