OpenAI käivitab Decisions API, et konkureerida TypeSafe'i Jev otsustusmudeliga

Pilt: TechCrunch · Allikas

OpenAI on välja andnud oma Decisions API, kiire ja kulutõhusa otsustusmudeli, mis on inspireeritud TypeSafe'i Jev mudelist, eesmärgiga kiirendada tehisintellektil põhinevaid töövooge madalama latentsuse ja suurenenud läbilaskevõimega.

OpenAI on tutvustanud oma Decisions APIt laiemale avalikkusele, mis tähistab olulist sammu otsustustele keskenduvate tehisintellekti mudelite turul. Need mudelid, mida iseloomustab TypeSafe'i Jev, on spetsialiseerunud kiiretele valikutele mitme võimaluse vahel, pakkudes samal ajal usaldusväärsuse hinnanguid ning töötades palju kiiremalt ja odavamalt kui traditsioonilised suured keelemudelid (LLM-id).

Inspiratsioon tuli pärast seda, kui OpenAI API tootemeeskond märkis TypeSafe'i Jev mudelit ja tuvastas palju potentsiaalseid kasutusjuhtumeid. Uue mudeli disainimise asemel kohandas OpenAI oma olemasolevat ChatGPT Luna mudelit, optimeerides järeldamise kiirust ja vähendades kulusid. Nikunj Handa, OpenAI API tooteliider, sõnul on see kohandamine vähendanud otsuste tegemise latentsust mitmest sekundist umbes 100–180 millisekundini.

OpenAI arendajate päeval 29. septembril teatatud Decisions API tehti laialdaselt kättesaadavaks 22. oktoobriks. Täiustuste hulka kuuluvad uued kõne- ja visuaalsed võimekused ning paranenud geograafiline jaotus järeldusserverite vallas latentsuse vähendamiseks üle maailma.

Varajased kasutajad nagu Box, Datadog, Ramp ja Speak on teatanud märkimisväärsetest parandustest. Speak'i tehnoloogiadirektor Andrew Hsu tõi välja, et vastuseaeg vähenes 1,4 sekundilt vaid 0,13 sekundile, kasutades Decisions APIt, mis näitab mudeli sobivust reaalajas rakendusteks nagu tehisintellektil põhinev keeleõpe ja häälassistendid.

Vaatamata edusammudele on kvaliteetse otsustusmudeli kriteeriumid endiselt mõnevõrra subjektiivsed, varieerudes töökoormuse nõudmiste järgi kiiruse, täpsuse, kalibreerimise ja kulude osas. TypeSafe soovitab kasutajatel hinnata mudeleid oma kontekstis ning pakub selleks enda võrdlustabeleid ja reitinguid koos uute väljaannetega. Kuigi avalikud indeksid nagu AIM System One Index ja Artificial Analysis Decision Index esile tõstavad Liquid ja Base Lab mudeleid, on TypeSafe'i Jev endiselt konkurentsivõimeline ning OpenAI mudel asub top 15 sekka.

Üks silmapaistev võrdluskatse, JevMan, seab otsustusmudelid vastamisi kiire tempoga PacMan mängus. Viimane Jev mudel juhib praegu seda testi, mis mõõdab kiiret kõrge panusega otsustamist tihedate ajapiirangutega.

OpenAI mudel pakub eriti eeliseid multimodaalsetes ülesannetes, nagu pildiklassifikatsioon, kus Luna demonstreerib head kalibreeritust ja paindlikkust. Handa näeb tulevikus latentsuse veelgi vähendamist kuni 60 millisekundini, võimaldades töödelda iga videoteki kaadrit ja avades uusi reaalajas kasutusvõimalusi.

Kuna otsustusmudelid muutuvad kiiremaks ja taskukohasemaks, eeldatakse nende kasutuselevõtu dramaatilist laienemist, paljastades praktilisi rakendusi, mis varem jäid tähelepanuta. OpenAI Decisions API turuletulek suurendab konkurentsi selles dünaamilises valdkonnas, lubades tehnoloogilisi edusamme ning laialdasemat tõhusate AI-põhiste otsustusvahendite kasutuselevõttu.