OpenAI Vyresnysis Mokslininkas Pasiūlė Naudoti Perplexity kaip Standartą Riboti DI Plėtros Greitį

Vaizdas: MedChemBench: Benchmarking AI for medicinal chemistry — Cover · Šaltinis
OpenAI vyresnysis mokslininkas Jakub Pachocki siūlo naudoti perplexity – DI prognozavimo tikslumo matą – kaip bendrą standartą DI plėtros tempui riboti ir saugumo riboms pramonėje nustatyti.
OpenAI vyresnysis mokslininkas Jakub Pachocki pasiūlė naują požiūrį valdyti sparčią dirbtinio intelekto pažangą, siūlydamas priimti bendrą matavimo vienetą – perplexity – kuris leistų matuoti ir galbūt riboti DI plėtros greitį. 2026 m. lapkričio 22 d. išsamiame tinklaraščio įraše Pachocki teigia, kad perplexity, vertinantis, kiek gerai modelis prognozuoja kitą žetoną duomenyse, galėtų būti standartizuotas dirbtinio intelekto bendrojo intelekto matas tarp skirtingų kūrėjų. Šis pasiūlymas iškyla didėjant susirūpinimui dėl galimų katastrofiškų rizikų, kurias sukelia nekontroliuojamas DI progresas, apie ką viešai buvo kalbama buvusių pramonės vidinių asmenų ir patvirtinta tokiuose dokumentuose kaip „Anthropic“ pirminis akcijų platinimas.
Perplexity kiekybiškai vertina modelio prognozavimo gebėjimus; mažesnė perplexity reiškia geresnį prognozių tikslumą. Pachocki pabrėžia, kad OpenAI modelių vystymosi metu buvo nuosekliai mažėjanti perplexity – nuo GPT-3.5 iki GPT-4 ir toliau – kas sutapo su reikšmingais gebėjimų proveržiais tokiose srityse kaip kibernetinis saugumas ir matematika. Pavyzdžiui, GPT-4 perplexity apie 0,91 sutapo su produktyviu grandinės mąstymo procesu – svarbiu argumentavimo sugebėjimu, o tolesni sumažėjimai žemiau 0,8 buvo susiję su proveržio galimybėmis. Ši sąsaja pagrindžia Pachocki prielaidą, kad perplexity atspindi pagrindinę DI modelių „intelekto substanciją“ ir lieka informatyvi net kai specifiniai užduočių standartai greitai pasensta dėl technologinės pažangos.
Remdamasis šiomis įžvalgomis, Pachocki ragina DI įmones susitarti dėl bendrų saugumo standartų ir naudoti perplexity pagrįstas ribas – veikiančias kaip greičio apribojimai – DI plėtrai. Tokios ribos būtų taikomos tol, kol pramonė pasieks konkrečius rezultatų supratimo ir stebėsenos etapus, sprendžiant dabartinius iššūkius dėl derinimo ir vertinimo. Šis požiūris siekia užkirsti kelią nerūpestingai pažangai, kuri galėtų aplenkti saugumo priemones.
Nepaisant to, Pachocki pripažįsta perplexity naudojimo apribojimus kaip vienintelio mato, įskaitant skirtingas duomenų rinkinių patalpas tarp laboratorijų, netiesioginį ryšį su konkrečiais gebėjimais ir nežinomybę dėl teoriškai mažiausios pasiekiamos perplexity. Be to, tokie patobulinimai kaip grandinės mąstymo užklausos ne mažina perplexity, bet gali ženkliai pagerinti modelio našumą. Nepaisant šių apribojimų, perplexity lieka patikrintas, kiekybiškai įvertinamas matas, tiesiogiai susijęs su latentinėmis DI galimybėmis, todėl yra perspektyvi priemonė skatinti skaidrumą ir bendrą valdymą DI srityje.
Šis pasiūlymas sutampa su platesne pramonės diskusija apie DI plėtros tempą, siekiant sumažinti egzistencines rizikas. Ypač Anthropic vadovas Dario Amodei viešai raginą brandinti pažangą su bendrais saugumo standartais, nuomonę, kurią palaiko OpenAI vadovas Sam Altman ir SpaceX vadovas Elon Musk. Pachocki tinklaraščio įrašas, kurį Altman apibūdino kaip „svarbiausią dalyką, kurį OpenAI paskelbė per pastarąjį laiką“, prisideda prie šios diskusijos moksline baze.
Kadangi DI toliau sparčiai tobulėja ir vis daugiau DI dalyvauja savo pačių tyrimuose ir plėtroje, objektyvių, bendrų standartų, kaip perplexity, nustatymas gali būti esminis koordinuotoms saugumo priemonėms. OpenAI tikisi, kad ši iniciatyva paskatins pramonės skaidrumą ir normas, galinčias efektyviai valdyti DI pažangą ir tuo pačiu metu aptikti bei tvarkyti kylančias rizikas.


Šaltiniai ir originalūs pranešimai
Skaityti originalų šaltinį ↗

Komentarai (0)
Komentarų dar nėra. Pradėkite diskusiją.
Rašyti komentarą
Komentarai publikuojami po moderavimo. Jūsų vardas ir komentaras bus vieši. Paskyra