Mākslīgais intelekts

OpenAI galvenais zinātnieks piedāvā 'perplexity' kā kritēriju AI attīstības ātruma ierobežošanai

Tendela Briefing ·
3 skatījumi · 0 Komentāri
OpenAI galvenais zinātnieks piedāvā 'perplexity' kā kritēriju AI attīstības ātruma ierobežošanai

Attēls: MedChemBench: Benchmarking AI for medicinal chemistry — Cover · Avots

OpenAI galvenais zinātnieks Jakubs Pačockis iesaka izmantot 'perplexity' – AI prognožu precizitātes mērvienību – kā kopēju kritēriju AI attīstības tempu normalizēšanai un drošības robežu noteikšanai nozarē.

OpenAI galvenais zinātnieks Jakubs Pačockis ir izteicis jaunu pieeju mākslīgā intelekta straujās attīstības pārvaldīšanai, ierosinot pieņemt kopīgu metriku — 'perplexity' — AI attīstības ātruma mērīšanai un iespējamu ierobežošanu. 2026. gada 22. novembra detalizētā bloga ierakstā Pačockis apgalvo, ka 'perplexity', kas novērtē, cik labi modelis prognozē nākamo simbolu datos, var kalpot kā standartizēts vispārējā mākslīgā intelekta rādītājs starp dažādiem izstrādātājiem. Šis ierosinājums parādās pieaugošas bažas fonā par potenciālajiem katastrofālajiem riskiem, ko rada nekontrolēta AI attīstība — bažas, ko izteikuši bijušie nozares iekšējie darbinieki un kuras atspoguļotas uzņēmumu publiskajos dokumentos, piemēram, Anthropic IPO iesniegumā.

'Perplexity' kvantificē modeļa prognožu sniegumu; zemāka 'perplexity' norāda uz augstāku prognožu precizitāti. Pačockis uzsver OpenAI modeļu attīstību, kur 'perplexity' pastāvīgi samazinājās — no GPT-3.5 līdz GPT-4 un tālāk — kas atbilst pārveidojošām spējām jomās kā kiberdrošība un matemātika. Piemēram, GPT-4 'perplexity' aptuveni 0,91 sakrita ar produktīvu domāšanas ķēžu secību, kas ir nozīmīga domāšanas prasme, savukārt vēl zemāki rādītāji zem 0,8 saistījās ar pārrobežu spējām. Šī saistība atbalsta Pačocka hipotēzi, ka 'perplexity' ataino AI modeļu pamatā esošo „intelekta substrātu” un paliek informatīvs pat tad, kad konkrētu uzdevumu kritēriji tehnoloģiskā progresa dēļ ātri noveco.

Ņemot vērā šos novērojumus, Pačockis aicina AI uzņēmumus vienoties par kopīgiem drošības standartiem un pieņemt 'perplexity'-balstītus sliekšņus — efektīvas ātruma ierobežojumus AI attīstībai. Šie ierobežojumi būtu spēkā līdz brīdim, kad nozare sasniegs konkrētus posmus AI uzvedības izpratnē un uzraudzībā, risinot pašreizējās problēmas saskaņošanas un novērtēšanas jomā. Šī pieeja mērķē novērst bezatbildīgu attīstību, kas varētu apsteigt drošības centienus.

Tomēr Pačockis atzīst 'perplexity' izmantošanas ierobežojumus kā vienīgā mērījuma, tostarp laboratoriju datu kopu atšķirības, tās netiešo attiecību uz specifiskām spējām un nenoteiktību par teorētiski sasniedzamo zemāko 'perplexity'. Turklāt, tādas metodes kā domu ķēžu virknes veicināšana (chain-of-thought prompting) ne samazina 'perplexity', bet būtiski uzlabo modeļu sniegumu. Neskatoties uz šiem ierobežojumiem, 'perplexity' ir pārbaudīts, kvantitatīvi izmērāms rādītājs, kas cieši saistīts ar slēptajām AI spējām, padarot to par daudzsološu kandidātu pārredzamības un kopīgas pārvaldības veicināšanai AI jomā.

Šis piedāvājums saskan ar plašākām nozares diskusijām par AI attīstības tempju regulēšanu, lai mazinātu eksistenciālos riskus. Īpaši Anthropic izpilddirektors Dario Amodejs publiski aicinājis uz kontrolētu progresu ar kopīgiem drošības standartiem, un šo nostāju atbalsta gan OpenAI izpilddirektors Sams Altmans, gan SpaceX izpilddirektors Ilons Masks. Pačocka bloga ieraksts, ko Almants raksturojis kā „visnozīmīgāko, ko OpenAI nesen ir publicējis,” sniedz konkrētu zinātnisku ietvaru šīm diskusijām.

AI ātrās attīstības un palielinātās AI pašas pētniecības un izstrādes atbalsta apstākļos objektīvu, kopīgu kritēriju, piemēram, 'perplexity', izveide var būt būtiska koordinētu drošības pasākumu nodrošināšanai. OpenAI cer, ka šī iniciatīva veicinās nozares caurredzamību un normas, kas efektīvi regulēs AI progresu un ļaus atklāt un pārvaldīt jauno risku rašanos.

A softly textured blue and turquoise gradient.
A softly textured blue and turquoise gradient. · Avots ↗
Managing frontier AI risk: From training to deployment — Cover
Managing frontier AI risk: From training to deployment — Cover · Avots ↗

Avoti un oriģinālziņas

Komentāri (0)

Komentāru vēl nav. Sāciet diskusiju.

Rakstīt komentāru

Komentāri tiek publicēti pēc moderēšanas. Jūsu vārds un komentārs būs redzami publiski. Konts