AI

OpenAIs chefsforskare föreslår perplexity som en referenspunkt för att begränsa AI-utvecklingens hastighet

Tendela Briefing ·
3 visningar · 0 Kommentarer
OpenAIs chefsforskare föreslår perplexity som en referenspunkt för att begränsa AI-utvecklingens hastighet

Bild: MedChemBench: Benchmarking AI for medicinal chemistry — Cover · Källa

OpenAIs chefsforskare Jakub Pachocki föreslår att använda perplexity, ett mått på AI:s förutsägelseprecision, som en gemensam referenspunkt för att styra AI-utvecklingstakten och fastställa säkerhetsgränser inom branschen.

OpenAIs chefsforskare Jakub Pachocki har föreslagit ett nytt tillvägagångssätt för att hantera den snabba utvecklingen av artificiell intelligens genom att föreslå införandet av en gemensam metrik — perplexity — för att mäta och potentiellt begränsa AI-utvecklingstakten. I ett detaljerat blogginlägg daterat 22 november 2026 argumenterar Pachocki för att perplexity, som utvärderar hur väl en modell förutspår nästa token i data, kan fungera som en standardiserad måttstock på AI:s allmänna intelligens över olika utvecklare.

Detta förslag har framkommit i en tid av ökande oro för de potentiella katastrofala risker som en okontrollerad AI-utveckling kan medföra, oro som framförts särskilt av tidigare branschinsiders och som ekats i företagsdokument såsom Anthropics börsintroduktionshandlingar.

Perplexity kvantifierar en modells prediktiva förmåga; lägre perplexity indikerar bättre förutsägelseprecision. Pachocki belyser utvecklingen av OpenAIs modeller som visar en stadig nedgång i perplexity — från GPT-3.5 genom GPT-4 och framåt — vilket korrelerar med framväxande transformerande förmågor inom områden som cybersäkerhet och matematik. Till exempel sammanföll GPT-4:s perplexity runt 0,91 med produktivt tankeanledning på kedjanivå, en betydande förmåga till resonemang, medan ytterligare minskningar under 0,8 har kopplats till genombrottsförmågor.

Denna koppling ligger till grund för Pachockis premiss att perplexity kan spåra den centrala "intelligenssubstraten" i AI-modeller och förblir informativ även när uppgiftsspecifika referenspunkter snabbt blir föråldrade med teknologisk utveckling.

Med dessa iakttagelser förespråkar Pachocki att AI-företag kommer överens om gemensamma säkerhetsstandarder och antar perplexity-baserade trösklar — i praktiken hastighetsbegränsningar — för AI-utvecklingen. Sådana begränsningar skulle gälla tills branschen når konkreta milstolpar i förståelse och övervakning av AI-beteende, vilket kan hantera dagens utmaningar inom inriktning och utvärdering. Tillvägagångssättet syftar till att förhindra oansvarig utveckling som kan överträffa säkerhetsinsatserna.

Pachocki erkänner dock begränsningar i att använda perplexity som ett enskilt mått, inklusive skillnader i dataset mellan laboratorier, dess indirekta koppling till specifika förmågor samt osäkerhet kring den teoretiskt lägsta uppnåeliga perplexityn. Dessutom minskar inte förbättringar såsom chain-of-thought-prompting perplexity men kan dramatiskt förbättra modellens prestanda. Trots dessa reservationer förblir perplexity ett beprövat, kvantifierbart mått tätt kopplat till latent AI-förmåga, vilket gör det till en lovande kandidat för att främja transparens och gemensam styrning inom AI-området.

Detta förslag ligger i linje med bredare branschdebatter om att styra AI-utvecklingen för att mildra existentiella risker. Särskilt har Anthropic VD Dario Amodei offentligt efterfrågat en avvägd utveckling med gemensamma säkerhetsstandarder, en ståndpunkt som rapporteras ha stöd av OpenAI:s VD Sam Altman och SpaceX:s VD Elon Musk. Pachockis blogginlägg, beskrivet av Altman som "det viktigaste OpenAI publicerat på ett tag", bidrar med en konkret vetenskaplig ram till denna diskurs.

I takt med att AI fortsätter att utvecklas snabbt med ökande AI-hjälp i sin egen forskning och utveckling kan etablerandet av objektiva, gemensamma referenspunkter som perplexity vara avgörande för koordinerade säkerhetsåtgärder. OpenAI hoppas att detta initiativ ska leda till branschövergripande transparens och normer som effektivt kan styra AI-utvecklingen samtidigt som det möjliggör upptäckt och hantering av nya risker.

A softly textured blue and turquoise gradient.
A softly textured blue and turquoise gradient. · Källa ↗
Managing frontier AI risk: From training to deployment — Cover
Managing frontier AI risk: From training to deployment — Cover · Källa ↗

Källor och ursprunglig rapportering

Kommentarer (0)

Inga kommentarer ännu. Börja diskussionen.

Skriv en kommentar

Kommentarer publiceras efter granskning. Ditt namn och kommentar syns offentligt. Konto