- Jev AI è un modello di tipo "System One" che sostituisce la generazione di testo con decisioni tipizzate e probabilistiche.
- Consente di eseguire più domande in parallelo utilizzando tre primitive: Choice, Score e Noul, riducendo drasticamente costi e latenza.
- Non si tratta di un sostituto dei modelli LLM generativi, bensì di un livello di instradamento e classificazione ottimizzato per automazioni e agenti.
Probabilmente siete abituati a pensare all'intelligenza artificiale come a quel chatbot che scrive email per voi o risponde alle vostre domande esistenziali, ma c'è una nuova tendenza che bypassa completamente la prosa. TypeSafe AI ha fatto irruzione sulla scena con una proposta rivoluzionaria: un modello che non impiega un singolo token per scrivere frasi, ma si concentra esclusivamente sul prendere decisioni tecniche che il software può elaborare istantaneamente.
Stiamo parlando di Jev , uno strumento progettato per chi sviluppa agenti di intelligenza artificiale o automazioni ed è stufo dei tradizionali modelli lineari di apprendimento (LLM) lenti e costosi anche per compiti semplici. Invece di chiedere all'IA di "pensare" e poi analizzare il JSON sperando che non abbia allucinazioni, Jev restituisce valori strutturati con probabilità calibrate , diventando essenzialmente un'istruzione "if" potenziata semanticamente.
Cosa si cela dietro Jev e la sua filosofia System One?
Il progetto è stato ideato da Diogo Almeida , un veterano che ha avuto un ruolo fondamentale nella creazione di InstructGPT e ChatGPT presso OpenAI. Jev non è semplicemente un modello più piccolo; è ciò che TypeSafe definisce un modello di Sistema Uno . Questo concetto deriva da Daniel Kahneman, che ha distinto tra Sistema 1 (pensiero veloce, intuitivo e automatico) e Sistema 2 (ragionamento lento e ponderato).
Il principio è semplice: la stragrande maggioranza delle decisioni software si basa su giudizi rapidi, come ad esempio stabilire se un ticket è urgente o a quale categoria appartiene un potenziale cliente. Non ha senso noleggiare un cervello enorme e complesso per svolgere compiti di triage. Inoltre, il nome Jev è un omaggio a William Stanley Jevons e al suo paradosso economico; l'idea è che, riducendo drasticamente il costo di una decisione, la domanda di tali decisioni aumenterà esponenzialmente.
Principali differenze rispetto a un LLM convenzionale
Se un LLM è uno scrittore, Jev è un puro classificatore . Mentre GPT o Claude generano token uno alla volta, Jev valuta tutte le domande di una richiesta in parallelo. Ciò significa che porre dieci domande contemporaneamente influisce minimamente sul tempo di risposta. Ma la caratteristica più potente è il campionamento parallelo e la completa assenza di errori di tipo: poiché si definiscono in anticipo le possibili risposte, è matematicamente impossibile che il modello restituisca qualcosa che il codice non sia in grado di gestire.
Per raggiungere questo obiettivo, TypeSafe utilizza un metodo di addestramento chiamato RLCD (Reinforcement Learning for Calibrated Decisions) . A differenza di RLHF, che mira a una risposta più comprensibile per l'uomo, RLCD punta a probabilità realistiche. Quindi, quando Jev ti dice di essere sicuro al 90%, quella cifra è un indicatore statistico reale , non un'espressione di cortesia, che consente di prendere decisioni informate su quando automatizzare e quando coinvolgere un operatore umano.
I tre strumenti di base: Jev Primitives
L'intera architettura dell'API si basa su tre tipi di domande, progettate per coprire qualsiasi esigenza di decisione semantica:
- Scelta: Consente di scegliere un'opzione da un gruppo di massimo 255. La cosa interessante è che restituisce l'opzione vincente, la mappa di probabilità di tutte le altre e un punteggio di affidabilità. Include anche un'opzione "altro" per i casi in cui nessuna opzione risulta adatta.
- Punto: Assegna un valore su una scala (da 2 a 10 livelli) che descrivi. Il risultato può essere un decimale (ad esempio, 1.4), che fornisce un granularità molto maggiore rispetto a un semplice numero intero.
- Noul (booleano): Si tratta di una domanda a cui si può rispondere con un sì o un no. Restituisce una probabilità compresa tra 0 e 1. Se il valore è vicino a 0.5, significa che il modello sta esitando.
Immagina un flusso di lavoro di supporto: in una singola chiamata, puoi chiedere quale team deve gestire il ticket (Scelta), il livello di frustrazione del cliente (Punteggio) e se ha richiesto un rimborso (Noul). Il tuo codice riceve i dati digitati ed esegue la logica corrispondente senza passare attraverso alcun filtro di pulizia del testo.
Casi d'uso reali: in quali ambiti eccelle e in quali presenta delle lacune?
Jev è lo strumento ideale per la gestione di massa dei contenuti e l'instradamento in base all'intento . È imbattibile nella moderazione dei contenuti, nell'assegnazione di punteggi ai lead e nella creazione di linee guida per altri modelli di intelligenza artificiale. Infatti, progetti come browser-use/jev-ultrafast lo utilizzano per navigare sul web, decidendo su quale elemento cliccare senza bisogno di descrivere la pagina a parole.
Tuttavia, non provate a usarlo per scrivere una poesia o generare codice, perché Jev non genera testo . Non è neanche adatto per la matematica, il conteggio dei caratteri o le date, poiché li elabora come testo anziché come quantità ordinate. Inoltre, ha difficoltà con il rumore nello stato ; se gli fornite un documento enorme pieno di informazioni superflue, la sua precisione diminuisce. La soluzione è filtrare il contesto nel codice prima di inviarlo all'IA.
Velocità, costi e realtà dei benchmark
I numeri che TypeSafe sta usando sono, francamente, folli. Parlano di latenze tra 70 e 500 millisecondi e di un costo di 0,042 dollari per milione di token per l'ingresso, con uscita gratuita. Affermano che Jev è fino a 444 volte più economico dei modelli di frontiera. Tuttavia, bisogna leggere le note a piè di pagina: questi dati provengono dai loro benchmark e potrebbero essere distorti.
Ciononostante, test esterni come quelli di Nexus Agent confermano che l'efficienza è reale. In scenari di controllo, Jev può essere il primo livello a filtrare il 58% dei casi con un margine di errore molto basso, lasciando solo i casi più complessi da sottoporre a un modello più costoso come Claude Opus o a un analista umano. Questo rende Jev un livello decisionale economico che ottimizza il budget di qualsiasi sistema multi-agente.
Integrazione tecnica ed ecosistema
Per gli sviluppatori, iniziare è semplice. Sono disponibili un SDK ufficiale per JavaScript/TypeScript e un SDK per Python (entrambi alla versione 0.6.0). È inoltre integrato con il gateway AI di Vercel , semplificando la gestione delle chiavi e la fatturazione. Sebbene non esista un SDK ufficiale per PHP, è sufficiente inviare una richiesta POST in formato JSON per ottenere risposte che possono essere gestite con una semplice operazione di corrispondenza o un'istruzione condizionale.
Un modello avanzato è l'instradamento con soglia di confidenza . È possibile configurare il sistema in modo che, se Jev ha un alto livello di confidenza, l'azione sia automatica; se è media, richieda conferma; e se è bassa, la richiesta venga inoltrata a un operatore umano. Questo impedisce all'IA di prendere decisioni critiche alla cieca e stabilisce un confine verificabile tra la macchina e la persona.
Questa tecnologia propone un cambio di paradigma in cui il giudizio semantico diventa una risorsa economica e ultraveloce. Integrando le capacità di classificazione di Jev con l'orchestrazione degli strumenti e la supervisione umana, è possibile creare flussi di lavoro in cui il ragionamento oneroso è riservato solo alla minoranza di casi realmente complessi, ottimizzando l' architettura dell'agente attraverso una cascata di decisioni efficienti.
