Il 1 ottobre 2026 Amazon Web Services ha pubblicato Strands Decider 2B e Cloudflare ha pubblicato Clef e Clef-flash: modelli di decisione con pesi aperti, che ricevono una situazione e un elenco di opzioni e restituiscono la probabilità di ciascuna. Prima erano usciti Jev di TypeSafe, via API, il 15 settembre, e CLM-8B di Stanford e Nvidia, descritto da VentureBeat il 25 settembre. Se un tuo flusso usa un modello linguistico per smistare richieste o filtrare le risposte di un chatbot, Decider, il più piccolo, si prova sui tuoi dati su un computer comune: prima di decidere altro conviene misurare quanto sbaglia.
Come funziona un modello di decisione
Un modello linguistico scrive la risposta un pezzo alla volta; un modello di decisione fa una sola passata sul testo e dà un punteggio a ciascuna opzione che gli passi, nel formato che il codice si aspetta, con la probabilità accanto. I classificatori esistono da tempo: secondo Cloudflare la novità è che questi lavorano su qualsiasi insieme di input senza essere riaddestrati a ogni nuova categoria. Secondo TechCrunch, dal debutto di Jev ne sono usciti decine di simili e nella settimana di Decider anche OpenAI ha annunciato un'offerta analoga.
I modelli a confronto
| Modello | Base | Licenza dei pesi | Dove si usa |
|---|---|---|---|
| Strands Decider 2B (Amazon) | Qwen3.5-2B | Apache 2.0 | In locale: GPU Nvidia, Mac o CPU |
| CLM-8B (Stanford e Nvidia) | Qwen3-8B | Apache 2.0 | Pesi e codice da scaricare |
| Clef e Clef-flash (Cloudflare) | Qwen3.8-27B e Qwen3.5-9B | Apache 2.0 | Workers AI o pesi da scaricare |
| Jev (TypeSafe AI) | Non dichiarata | Non indicata | API di TypeSafe, accesso anticipato |
Ogni cifra è dichiarata da chi pubblica il modello, con banchi di prova e macchine diversi, e non si mette in classifica. TypeSafe indica per Jev da 70 a 500 ms, con prove fatte da portatili sulla costa ovest degli Stati Uniti, mentre nella tabella di Cloudflare la sua mediana è 524,1 ms, contro i 209,3 di Clef e i 38,8 di Clef-flash. Gli autori di CLM-8B dichiarano fino a 9 volte la velocità di Jev, con il 95,2% contro il 99,2% di Jev su BFCL v4, un test di tool calling.
Costi, privacy e hardware
I modelli aperti non hanno costi di licenza, e le fonti non danno cifre per l'hardware. Tra i servizi, Jev costa 0,042 dollari per milione di token in ingresso, con uscita gratuita (TypeSafe non esclude che sia sovvenzionato); su Workers AI Clef-flash costa 0,09 dollari e Clef 0,24, e Cloudflare non elenca un prezzo per l'uscita. Con 10.000 richieste al giorno da 500 token in ingresso ciascuna sono 5 milioni di token: a prezzo di listino circa 0,21 dollari al giorno con Jev, 0,45 con Clef-flash e 1,20 con Clef [stima illustrativa, da confermare sul tuo progetto]. A questi volumi la spesa è piccola e secondo noi la ragione per tenere il modello in casa è la privacy.
Con i pesi in casa il testo viene elaborato sul tuo computer; con un servizio esterno i dati passano da un fornitore: Cloudflare scrive che non legge, non conserva né usa per l'addestramento richieste e risposte, salvo fine-tuning scelto dal cliente, e il servizio di TypeSafe ha oggi sede negli Stati Uniti.
Decider è il più piccolo: Amazon indica una mediana di circa 115 ms su hardware comune, nel grafico del blog una RTX 3090, e di circa 153 ms su un MacBook M3 per compiti piccoli. I pesi di Clef sono circa 55 GB e la sua scheda cita come unica prova una GPU Nvidia H200. A 115 ms per decisione, una alla volta, in 24 ore se ne fanno circa 750.000, un tetto teorico per testi brevi perché il tempo cresce con la lunghezza [stima illustrativa, da confermare sul tuo progetto].
Come impostare una prova
- Scegli una decisione con poche risposte possibili, per esempio assegnare una richiesta a una di tre o quattro squadre.
- Raccogli almeno 200 casi reali già classificati da una persona; se contengono dati personali, restano sul computer di prova. Con 200 casi l'incertezza sull'accuratezza arriva a circa 7 punti percentuali nel caso peggiore [stima illustrativa, da confermare sul tuo progetto]: poco per distinguere due modelli vicini.
- Installa Decider con
pip install strands-decidersu un portatile o su un PC con scheda Nvidia, esegui i casi, annota il tempo per decisione sulla tua macchina e confronta dove sbaglia con quello che fai oggi e con il modello linguistico che già usi. - Fissa la soglia di probabilità sui tuoi casi e passa a una persona le decisioni sotto soglia. Non esporre in rete il server HTTP di Decider: secondo la scheda non ha autenticazione ed è per prove in locale.
Da dove partiamo noi
Nelle automazioni AI e chatbot integriamo modelli linguistici in flussi già esistenti, con controllo su costi e qualità delle risposte. Smistare un ticket o filtrare la risposta di un assistente è un passaggio in cui un modello di decisione può affiancare o sostituire una chiamata a un modello che scrive: per un cliente partiremmo dai suoi casi già classificati, confrontando costi ed errori con lo strumento che usa oggi.
Nelle app mobile il punto aperto è il telefono. Nessuna fonte li documenta su un dispositivo, e Android descrive per il telefono un altro modello, Gemini Nano, che produce testo e non cita la classificazione. Per portare un modello PyTorch in un'app Flutter abbiamo Fluttorch, la nostra libreria open source: l'esportazione scrive insieme modello, manifesto e uscite di riferimento, e il parity gate fa fallire la build se i numeri si spostano più di quanto la ricetta di esportazione consente, per esempio dopo la quantizzazione. La soglia di probabilità scelta sui tuoi dati vale solo finché le probabilità restano quelle. Fluttorch non addestra né ottimizza i modelli e non promettiamo che uno di questi si esporti su un telefono: sarebbe la prima verifica.
Cosa non sappiamo ancora
- Come reggono l'italiano: le fonti non riportano prove, e Brooker, tra gli autori di Decider, cita a TechCrunch la comprensione delle lingue tra le cose da non degradare.
- Che hardware servano a Clef-flash e a CLM-8B, e quanto sia veloce Decider con la sola CPU.
Se vuoi che guardiamo un tuo flusso di smistamento o di controllo, parti dalla pagina sulle automazioni AI e chatbot o scrivici.
Fonti
- TechCrunch: Amazon releases its own Jev clone as decision models flood the web (1 ottobre 2026)
- Strands Agents: Introducing Strands Decider 2B: a small, open source, decision model (1 ottobre 2026)
- Hugging Face: StrandsAgents/strands-decider-2B-hobson-v19 (model card)
- VentureBeat: Stanford and Nvidia's open CLM-8B caches reusable agent actions and runs up to 9x faster than Jev in tests (25 settembre 2026)
- Cloudflare Blog: Introducing Clef: our open-source decision models, and new RL fine-tuning platform (1 ottobre 2026)
- Hugging Face: Cloudflare/clef (model card)
- Cloudflare Workers AI docs: Pricing (1 ottobre 2026)
- TypeSafe AI: Introducing System One Models & Jev (15 settembre 2026)
- Android Developers: Gemini Nano (8 settembre 2026)
