OpenAI julkaisee Decisions API:n kilpaillakseen TypeSafen Jev-päätösmallin kanssa

Kuva: TechCrunch · Lähde

OpenAI on julkaissut Decisions API:n, nopean ja kustannustehokkaan päätöksentekomallin, joka on saanut inspiraationsa TypeSafen Jevistä. Tavoitteena on nopeuttaa tekoälypohjaisia työnkulkuja pienemmällä viiveellä ja kasvaneella tietomäärällä.

OpenAI on julkaissut Decisions API:n laajempaan käyttöön, mikä merkitsee merkittävää askelta päätöksentoon keskittyvien tekoälymallien kasvavassa markkinassa. Nämä mallit, joita edustaa esimerkiksi TypeSafen Jev, erikoistuvat nopeiden valintojen tekemiseen vaihtoehtojen joukosta, tarjoten samalla luottamusarvioita ja toimien huomattavasti nopeammin ja edullisemmin kuin perinteiset suuret kielimallit (LLM).

Inspiraatio syntyi, kun OpenAI:n API-tuotetiimi havaitsi TypeSafen Jevin ja tunnisti useita mahdollisia käyttötarkoituksia. Sen sijaan, että olisi suunnitellut uuden mallin alusta alkaen, OpenAI sopeutti olemassa olevan ChatGPT Luna -mallinsa optimoimalla päätelmän nopeutta ja pienentämällä kustannuksia. OpenAI:n API-tuotepäällikkö Nikunj Handa kertoo, että tämän mukautuksen ansiosta päätöksenteon viive on lyhentynyt useista sekunneista noin 100–180 millisekuntiin.

Decisions API julkistettiin OpenAI:n kehittäjäpäivässä 29. syyskuuta ja se tuli laajasti saataville 22. lokakuuta mennessä. Parannuksiin sisältyy uudet ääni- ja visuaaliset ominaisuudet sekä parannettu inferenssipalvelimien maantieteellinen jakelu viiveen vähentämiseksi maailmanlaajuisesti.

Varhaiset käyttäjät kuten Box, Datadog, Ramp ja Speak ovat raportoineet merkittäviä parannuksia. Speakin teknologiajohtaja Andrew Hsu totesi, että vastausaika lyheni 1,4 sekunnista vain 0,13 sekuntiin Decisions API:n hyödyntämisen ansiosta, mikä osoittaa mallin soveltuvuuden reaaliaikaisiin sovelluksiin kuten tekoälypohjaiseen kielten opettamiseen ja ääniohjaajiin.

Vaikka edistystä on tapahtunut, kriteerit paremmalle päätösmallille pysyvät osittain subjektiivisina vaihdellen kuormitusvaatimusten mukaan nopeuteen, tarkkuuteen, kalibrointiin ja kustannuksiin nähden. TypeSafe kehottaa käyttäjiä arvioimaan malleja omassa kontekstissaan tarjoten omat vertailuarvonsa ja rankinginsa julkaisujen yhteydessä. Julkiset indeksit, kuten AIM System One Index ja Artificial Analysis Decision Index, korostavat Liquidin ja Base Labin malleja, mutta TypeSafen Jev pysyy kilpailukykyisenä ja OpenAI:n malli sijoittuu kärkiviisitoistoon.

Eräs erityinen vertailu, JevMan, vertailee päätösmalleja nopeatahtiseen PacMan-peliin. Uusin Jev-malli johtaa tällä hetkellä testissä, joka mittaa nopeaa, korkean panoksen päätöksentekoa tiukoissa aikarajoissa.

OpenAI:n malli tarjoaa etuja erityisesti monimuotoisissa tehtävissä, kuten kuvien luokittelussa, jossa Luna osoittaa vahvaa kalibrointia ja joustavuutta. Handa näkee tulevilta viiveen pienenemiseltä arvoon 60 millisekuntia, mikä mahdollistaisi jokaisen videon kehyksen käsittelyn ja avaisi uusia reaaliaikaisia käyttökohteita.

Koska päätösmallit nopeutuvat ja halpenevat, niiden käyttöönoton odotetaan laajentuvan dramaattisesti, mikä paljastaa käytännön sovelluksia, joita aiemmin ei ole huomioitu. OpenAI:n Decisions API:n julkistus lisää kilpailua tällä dynaamisella alalla, lupaa teknologisia edistysaskeleita ja tehokkaiden tekoälypohjaisten päätöksentekotyökalujen laajempaa käyttöönottoa.