- Jev AI ir "System One" tipa modelis, kas teksta ģenerēšanu aizstāj ar tipizētiem un varbūtības lēmumiem.
- Tas ļauj paralēli izpildīt vairākus jautājumus, izmantojot trīs primitīvus: Choice (Izvēle), Score (Rezultāts) un Noul (Noul), ievērojami samazinot izmaksas un latentumu.
- Tas neaizstāj ģeneratīvus tiesību pārvaldības modeļus (LLM), bet gan maršrutēšanas un klasifikācijas slānis, kas optimizēts automatizācijai un aģentiem.
Jūs droši vien esat pieraduši domāt par mākslīgo intelektu kā tērzēšanas robotu, kas raksta jūsu e-pastus vai atbild uz jūsu eksistenciāliem jautājumiem, taču ir parādījusies jauna tendence, kas pilnībā apiet prozu. TypeSafe AI ir parādījies ar revolucionāru priekšlikumu: modeli, kas netērē nevienu žetonu teikumu rakstīšanai, bet gan koncentrējas tikai uz tehnisku lēmumu pieņemšanu, kurus programmatūra var apstrādāt nekavējoties.
Mēs runājam par Jev — rīku, kas paredzēts tiem, kas izstrādā mākslīgā intelekta aģentus vai automatizācijas risinājumus un ir apnikuši no tā, ka tradicionālās tiesību zinātnes (LLM) ir lēnas un dārgas vienkāršu uzdevumu veikšanai. Tā vietā, lai lūgtu mākslīgajam intelektam "domāt" un pēc tam parsētu JSON, cerot, ka tas nav halucinējis, Jev atgriež strukturētas vērtības ar kalibrētām varbūtībām , būtībā kļūstot par "ja" paziņojumu semantiskajās steroīdu sistēmās.
Kas slēpjas aiz Dževa un viņa Pirmās Sistēmas filozofijas?
Projekts radās Diogo Almeidas , veterāna, kurš bija dziļi iesaistīts InstructGPT un ChatGPT izveidē OpenAI, prātā . Jev nav vienkārši mazāks modelis; tas ir tas, ko TypeSafe sauc par System One modeli . Šī koncepcija nāk no Daniela Kānemana, kurš nošķīra 1. sistēmu (ātra, intuitīva un automātiska domāšana) no 2. sistēmas (lēna un apzināta spriešana).
Princips ir vienkāršs: lielākā daļa programmatūras lēmumu ir ātri spriedumi, piemēram, nosakot, vai pieprasījums ir steidzams vai kurā kategorijā ietilpst potenciālais klients. Nav jēgas īrēt kolosālas, sarežģītas spriešanas smadzenes, lai veiktu triāžas uzdevumus. Turklāt vārds Dževs ir atsauce uz Viljamu Stenliju Dževonsu un viņa ekonomisko paradoksu; ideja ir tāda, ka, strauji samazinoties lēmumu pieņemšanas izmaksām, pieprasījums pēc šiem lēmumiem eksponenciāli pieaugs.
Galvenās atšķirības no tradicionālās LLM
Ja tiesību zinātņu maģistrs (LLM) ir rakstnieks, Jevs ir tīrs klasifikators . Kamēr GPT vai Claude ģenerē marķierus pa vienam, Jevs paralēli novērtē visus pieprasījumā esošos jautājumus. Tas nozīmē, ka desmit jautājumu uzdošana vienlaikus gandrīz neietekmē atbildes laiku. Taču visspēcīgākā funkcija ir paralēlā izlase un pilnīga tipa kļūdu neesamība: tā kā iespējamās atbildes tiek definētas iepriekš, matemātiski nav iespējams, ka modelis atgrieztu kaut ko tādu, ko jūsu kods nevar apstrādāt.
Lai to panāktu, TypeSafe izmanto apmācības metodi, ko sauc par RLCD (Reinforcement Learning for Calibrated Decisions — pastiprināšanas mācīšanās kalibrētiem lēmumiem) . Atšķirībā no RLHF, kuras mērķis ir cilvēkam draudzīga reakcija, RLCD mērķis ir godīgas varbūtības. Tātad, kad Dževs jums saka, ka viņš ir 90% pārliecināts, šis skaitlis ir reāls statistisks rādītājs , nevis pieklājīga vēlēšanās, kas ļauj pieņemt pārdomātus lēmumus par to, kad automatizēt un kad nodot uzdevumu cilvēkam.
Trīs pamatrīki: Jev primitīvi
Visa API arhitektūra ir balstīta uz trīs veidu jautājumiem, kas paredzēti, lai aptvertu jebkuru semantiskas lēmumu pieņemšanas vajadzību:
- Izvēle: Tas ļauj izvēlēties vienu opciju no grupas, kurā ir līdz pat 255. Interesanti ir tas, ka tas atgriež uzvarošo opciju, visu pārējo varbūtību karti un ticamības rādītāju. Tas ietver "citu" opciju gadījumiem, kad nekas neder.
- Rezultāts: Piešķiriet vērtību skalā (no 2 līdz 10 līmeņiem), ko aprakstāt. Rezultāts var būt decimālskaitlis (piemēram, 1.4), kas dod daudz lielāka detalizācija nekā vienkāršs vesels skaitlis.
- Noul (Būla): Tas ir jautājums, uz kuru jāatbild ar atbildi “jā” vai “nē”. Tas atgriež varbūtību no 0 līdz 1. Ja vērtība ir tuvu 0.5, jūs zināt, ka modelis vilcinās.
Iedomājieties atbalsta darbplūsmu: viena zvana laikā varat jautāt, kurai komandai vajadzētu apstrādāt pieprasījumu (Choice), klienta neapmierinātības līmeni (Score) un to, vai viņš ir pieprasījis atmaksu (Noul). Jūsu kods saņem ierakstītus datus un izpilda atbilstošo loģiku, neizmantojot teksta attīrīšanas filtrus.
Reālās pasaules lietošanas gadījumi: kur tas izceļas un kur tam trūkst?
Jev ir ideāls rīks masveida triāžai un nodomu maršrutēšanai . Tas ir nepārspējams satura moderēšanā, potenciālo klientu vērtēšanā un aizsargbarjeru izveidē citiem mākslīgā intelekta modeļiem. Faktiski tādi projekti kā browser-use/jev-ultrafast to izmanto, lai pārvietotos tīmeklī, izlemjot, uz kura elementa noklikšķināt, bez nepieciešamības aprakstīt lapu prozā.
Tomēr nemēģiniet to izmantot dzejoļa rakstīšanai vai koda ģenerēšanai, jo Dževs neģenerē tekstu . Tas arī nav labs matemātikā, rakstzīmju skaitīšanā vai datumos, jo apstrādā tos kā tekstu, nevis sakārtotus daudzumus. Turklāt tam ir grūtības ar troksni stāvoklī ; ja tam padodat milzīgu dokumentu, kas pilns ar lieku informāciju, tā precizitāte samazinās. Risinājums ir filtrēt kontekstu kodā pirms tā nosūtīšanas mākslīgajam intelektam.
Ātrums, izmaksas un etalonu realitāte
Skaitļi, ko TypeSafe izmanto, atklāti sakot, ir neprātīgi. Viņi runā par latentumu no 70 līdz 500 milisekundēm un izmaksām 0,042 USD par miljonu tokenu ieejai, bet izeja ir bez maksas. Viņi apgalvo, ka Jev ir līdz pat 444 reizēm lētāks nekā Frontier modeļi. Tomēr jums ir jāizlasa sīkā druka: šie dati ir iegūti no viņu pašu etaloniem un var būt neobjektīvi.
Pat neskatoties uz to, ārējie testi, piemēram , Nexus Agent veiktie, apstiprina, ka efektivitāte ir reāla. Drošības barjeru scenārijos Jev var būt pirmais slānis, kas filtrē 58% gadījumu ar ļoti zemu kļūdas robežu, atstājot tikai vissarežģītākos gadījumus dārgākam modelim, piemēram, Claude Opus vai cilvēka analītiķim. Tas padara Jev par ekonomisku lēmumu pieņemšanas slāni , kas optimizē jebkuras daudzaģentu sistēmas budžetu.
Tehniskā integrācija un ekosistēma
Izstrādātājiem darba sākšana ir vienkārša. Ir pieejams oficiāls JavaScript/TypeScript SDK un Python SDK (abas versijas 0.6.0). Tas ir integrēts arī Vercel AI vārtejā , vienkāršojot atslēgu pārvaldību un norēķinus. Lai gan nav oficiāla PHP SDK, vienkārši nosūtot POST pieprasījumu ar JSON, tiks iegūtas atbildes, kuras var apstrādāt ar vienkāršu atbilstību vai if operatoru.
Paplašināts modelis ir maršrutēšana ar ticamības slieksni . Sistēmu var konfigurēt tā, lai, ja Dževam ir augsta ticamības pakāpe, darbība būtu automātiska; ja tā ir vidēja, darbība pieprasītu apstiprinājumu; un, ja tā ir zema, darbība tiktu nodota cilvēkam. Tas neļauj mākslīgajam intelektam akli pieņemt kritiskus lēmumus un izveido auditējamu robežu starp mašīnu un personu.
Šī tehnoloģija piedāvā paradigmas maiņu, kur semantiskā sprieduma pieņemšana kļūst par lētu un īpaši ātru resursu. Integrējot Jev klasifikācijas iespējas ar rīku orķestrēšanu un cilvēka uzraudzību, ir iespējams izveidot darbplūsmas, kurās dārga spriešana ir paredzēta tikai nelielam skaitam patiesi sarežģītu gadījumu, optimizējot aģenta arhitektūru , izmantojot efektīvu lēmumu kaskādi.
