OpenAI pristato Decisions API, kad konkuruotų su TypeSafe Jev sprendimų modeliu

Vaizdas: TechCrunch · Šaltinis

OpenAI išleido Decisions API – greitą ir ekonomišką sprendimų priėmimo modelį, įkvėptą TypeSafe Jev, siekiant pagreitinti dirbtinio intelekto pagrindu veikiančius darbo procesus su mažesniu delsos laiku ir didesniu pralaidumu.

OpenAI pristatė savo Decisions API platesniam naudojimui, žymėdamas svarbų žingsnį į augančią sprendimų priėmimui skirtų dirbtinio intelekto modelių rinką. Šie modeliai, kurių pavyzdys yra TypeSafe Jev, specializuojasi greitoje parinkčių iš rinkinio priėmime, teikdami pasitikėjimo įvertinimus ir veikiant ženkliai greičiau bei pigiau nei tradiciniai dideli kalbos modeliai (LLM).

Iniciatyva kilo iš OpenAI API produktų komandos stebėjimo TypeSafe Jev modelio ir identifikavus įvairius galimus panaudojimo atvejus. Vietoje naujo modelio kūrimo nuo nulio, OpenAI adaptavo savo esamą ChatGPT Luna modelį, optimizuodami nuspėjamumo greitį ir mažindami kaštus. Pasak Nikunj Handa, OpenAI API produktų vadovo, ši adaptacija sumažino sprendimų priėmimo delsą nuo kelių sekundžių iki maždaug 100–180 milisekundžių.

Šis sprendimas buvo paskelbtas OpenAI kūrėjų dienos renginyje rugsėjo 29 dieną, o plačiai prieinamas tapo spalio 22 dieną. Patobulinimai apima naujas balso ir vizualines galimybes bei geresnį geografinių inferencijos serverių paskirstymą, kad būtų sumažintas delsos laikas visame pasaulyje.

Ankstyvieji vartotojai, tokie kaip Box, Datadog, Ramp ir Speak, pranešė apie žymius patobulinimus. Speak CTO Andrew Hsu pažymėjo, kad reakcijos laikas sumažėjo nuo 1,4 sekundės iki vos 0,13 sekundės naudojant Decisions API, kas parodo modelio tinkamumą realaus laiko programoms, tokioms kaip DI kalbos mokymas ir balso asistentai.

Nepaisant pažangos, kriterijai, apibrėžiantys geresnį sprendimų modelį, yra dalinai subjektyvūs ir skiriasi priklausomai nuo darbo krūvio reikalavimų greičiui, tikslumui, kalibravimui ir sąnaudoms. TypeSafe ragina naudotojus vertinti modelius savo kontekste, siūlydama savo etalonus ir reitingus kartu su naujomis versijomis. Vieši indeksai, tokie kaip AIM System One Index ir Artificial Analysis Decision Index, išskiria modelius iš Liquid ir Base Lab, tačiau TypeSafe Jev išlieka konkurencingas, o OpenAI modelis patenka į pirmuosius penkioliktuką.

Vienas išskirtinis etalonas, JevMan, lygina sprendimų modelius sparčiai žaidimo PacMan aplinkoje. Naujausias Jev modelis šiuo metu pirmauja šiame teste, kuris matuoja greitus, didelės rizikos sprendimus griežtomis laiko sąlygomis.

OpenAI modelis ypač naudingas daugiamodaliai užduotims, tokioms kaip vaizdų klasifikavimas, kur Luna demonstruoja stiprų kalibravimą ir lankstumą. Handa mato tolesnius delsos mažinimus iki 60 milisekundžių, leidžiančius apdoroti kiekvieną vaizdo kadrą ir atrasti naujas realaus laiko panaudojimo sritis.

Kadangi sprendimų modeliai tampa greitesni ir prieinamesni, tikėtina, kad jų taikymas smarkiai išaugs, atskleisdamas praktinius panaudojimus, kurie anksčiau buvo nepastebėti. OpenAI Decisions API pristatymas sustiprina konkurenciją šioje dinamiškoje srityje, žadėdamas technologinius pažangumus ir plačiau pritaikomus efektyvius dirbtinio intelekto sprendimų priėmimo įrankius.