OpenAI izlaiž Decisions API, lai konkurētu ar TypeSafe Jev lēmumu modeli

Attēls: TechCrunch · Avots

OpenAI ir izlaidis savu Decisions API, ātru un izmaksu ziņā efektīvu lēmumu pieņemšanas modeli, kas iedvesmots no TypeSafe Jev, cenšoties paātrināt AI vadītos darba plūsmas ar zemāku latentumu un lielāku caurlaidību.

OpenAI ir publiski ieviesis savu Decisions API, kas iezīmē nozīmīgu soli pieaugošajā lēmumu fokusēto mākslīgā intelekta modeļu tirgū. Šie modeļi, kuriem piemērs ir TypeSafe Jev, specializējas ātru izvēļu veikšanā no pieejamajām iespējām, sniedzot arī pārliecības līmeņa novērtējumus, darbojas daudz ātrāk un lētāk nekā tradicionālie lieli valodas modeļi (LLM).

Iedvesma radās pēc tam, kad OpenAI API produkta komanda novēroja TypeSafe Jev un identificēja daudzus potenciālos pielietojuma gadījumus. Tā vietā, lai izstrādātu jaunu modeli no nulles, OpenAI pielāgoja savu esošo ChatGPT Luna modeli, optimizējot secinājumu izpildes ātrumu un samazinot izmaksas. Pēc Nikunja Handas, OpenAI API produkta vadošā, teiktā, šī pielāgošana samazināja lēmumu pieņemšanas latentumu no vairākiem sekundēm līdz aptuveni 100–180 milisekundēm.

Decisions API tika paziņots OpenAI izstrādātāju dienā 29. septembrī un plaši pieejams kļuva līdz 22. oktobrim. Uzlabojumos ietilpst jaunas balss un vizuālas funkcionalitātes, kā arī uzlabota ģeogrāfiskā secinājumu serveru izvietošana latency samazināšanai globālā mērogā.

Agrīnās adopcijas piemēri, piemēram, Box, Datadog, Ramp un Speak, ziņo par būtiskiem uzlabojumiem. Speak CTO Endrū Hsu atzīmēja atbildes laika samazināšanos no 1,4 sekundēm līdz vien 0,13 sekundēm, izmantojot Decisions API, demonstrējot modeļa piemērotību reāllaika lietojumprogrammām, piemēram, AI valodu apmācībai un balss palīgiem.

Neskatoties uz progresu, kritēriji, kas nosaka labāku lēmumu modeli, joprojām ir daļēji subjektīvi, mainoties atkarībā no darba slodzes vajadzībām pēc ātruma, precizitātes, kalibrācijas un izmaksām. TypeSafe aicina lietotājus vērtēt modeļus savā kontekstā, piedāvājot savus testēšanas standartus un reitingu kopā ar jauninājumiem. Lai gan publiskie indeksi, piemēram, AIM System One Index un Artificial Analysis Decision Index, izceļ modeļus no Liquid un Base Lab, TypeSafe Jev joprojām saglabā konkurētspēju, un OpenAI modelis atrodas top piecpadsmitniekā.

Viena no ievērojamām pārbaudēm, JevMan, salīdzina lēmumu modeļus ar ātras tempā PacMan spēli. Jaunākais Jev modelis šobrīd vada šo testu, kas mēra ātru un augsta riska lēmumu pieņemšanu ierobežota laika apstākļos.

OpenAI modelis piedāvā priekšrocības īpaši daudzmodālos uzdevumos, piemēram, attēlu klasifikācijā, kur Luna demonstrē labu kalibrāciju un elastību. Handa paredz nākotnē latentuma samazināšanu līdz pat 60 milisekundēm, ļaujot apstrādāt katru video kadru un atklājot jaunas reāllaika pielietošanas iespējas.

Kā lēmumu modeļi kļūst ātrāki un izdevīgāki, tiek gaidīts to ieviešanas straujš pieaugums, atklājot praktiskus pielietojumus, kas iepriekš tika ignorēti. OpenAI Decisions API ienākšana pastiprina konkurenci šajā dinamiskajā jomā, solot tehnoloģiskus uzlabojumus un plašāku efektīvu AI vadītu lēmumu pieņemšanas rīku izmantošanu.