Tekoäly

OpenAI:n Päällistutkija Ehdottaa Perplexityn Käyttöä Mittarina Rajoittamaan Keinotekoisen Älyn Kehityksen Nopeutta

Tendela Briefing ·
3 näkymää · 0 Kommentit
OpenAI:n Päällistutkija Ehdottaa Perplexityn Käyttöä Mittarina Rajoittamaan Keinotekoisen Älyn Kehityksen Nopeutta

Kuva: MedChemBench: Benchmarking AI for medicinal chemistry — Cover · Lähde

OpenAI:n päällistutkija Jakub Pachocki ehdottaa perplexityä, keinotekoisen älyn ennustustarkkuuden mittaria, yhteiseksi mittariksi keinotekoisen älyn kehityksen tahdin säätelemiseksi ja alan turvallisuusrajojen asettamiseksi.

OpenAI:n päällistutkija Jakub Pachocki on ehdottanut uutta lähestymistapaa keinotekoisen älyn nopean kehityksen hallintaan esittämällä yhteisen mittarin – perplexityn – käyttöönottoa keinotekoisen älyn kehityksen nopeuden mittaamiseen ja mahdolliseen rajoittamiseen. Yksityiskohtaisessa blogikirjoituksessa 22. marraskuuta 2026 Pachocki perustelee, että perplexity, joka arvioi kuinka hyvin malli ennustaa seuraavan tokenin datassa, voisi toimia standardoituna keinotekoisen yleisälyn mittarina eri kehittäjien kesken. Tämä ehdotus nousee esiin kasvavan huolen myötä, joka liittyy hallitsemattoman keinotekoisen älyn kehityksen mahdollisesti tuhoisiin riskeihin, huoliin, joita ovat ilmaisseet entiset alan sisäpiiriläiset ja joita on toistettu yhtiöiden dokumenteissa, kuten Anthropicin listautumisannissa.

Perplexity kvantifioi mallin ennustuskykyä; pienempi perplexity tarkoittaa parempaa ennustustarkkuutta. Pachocki korostaa OpenAI:n mallien kehitystä, jossa perplexity on johdonmukaisesti laskenut – GPT-3.5:stä GPT-4:ään ja sitä myöten – ja tämä on liittynyt merkittäviin kykyjen kehittymisiin esimerkiksi kyberturvallisuuden ja matematiikan aloilla. Esimerkiksi GPT-4:n perplexity noin 0,91 ajoittui tuottavaan ajatuksenketjuttamiseen, merkittävään päättelykykyyn, ja sen edelleen laskeminen alle 0,8 on yhdistetty läpimurtoihin. Tämä suhde perustelee Pachockin olettamusta, että perplexity seuraa tekoälymallien keskeistä "älykkyyden substrantia" ja pysyy informatiivisena, vaikka tehtäväkohtaiset mittarit vanhentuvat nopeasti teknologisen kehityksen myötä.

Näiden havainnoiden perusteella Pachocki kehottaa tekoälyyrityksiä sopimaan yhteisistä turvallisuusstandardeista ja ottamaan käyttöön perplexity-pohjaiset rajat – käytännössä nopeusrajoitukset – tekoälyn kehitykselle. Tällaiset rajat pysyisivät voimassa, kunnes ala saavuttaa konkreettisia virstanpylväitä tekoälyn käyttäytymisen ymmärtämisessä ja valvonnassa, vastaten nykyisiin haasteisiin kohdistuksen ja arvioinnin osalta. Lähestymistavoitteella halutaan estää holtitonta etenemistä, joka saattaisi edetä turvallisuusponnistelujen ohi.

Pachocki myöntää kuitenkin, että perplexityn käyttäminen ainoana mittarina sisältää rajoituksia, kuten eri laboratorioiden käyttämien aineistojen erot, sen epäsuoran yhteyden tiettyihin kykyihin sekä epävarmuuden teoreettisesti saavutettavissa olevasta alhaisimmasta perplexity-tasosta. Lisäksi parannukset, kuten ajatuksenketjutus, eivät välttämättä pienennä perplexityä, mutta voivat merkittävästi parantaa mallin suorituskykyä. Näistä varauksista huolimatta perplexity pysyy ajan koetelluna, kvantifioitavana mittarina, joka kytkeytyy läheisesti tekoälyn piileviin kykyihin, mikä tekee siitä lupaavan välineen edistämään läpinäkyvyyttä ja yhteistä hallintaa tekoälyn alalla.

Tämä ehdotus liittyy laajempaan alan keskusteluun keinotekoisen älyn kehityksen tahdistamisesta eksistentiaalisten riskien minimoimiseksi. Erityisesti Anthropicin toimitusjohtaja Dario Amodei on julkisesti vaatinut hallittua etenemistä yhteisillä turvallisuusstandardeilla, näkemyksen, jota tukevat OpenAI:n toimitusjohtaja Sam Altman ja SpaceX:n toimitusjohtaja Elon Musk. Pachockin blogikirjoitus, jonka Altman kuvasi "OpenAI:n viime aikoina julkaisemaksi tärkeimmäksi asiaksi", tarjoaa konkreettisen tieteellisen viitekehyksen tähän keskusteluun.

Kun tekoäly kehittyy nopeasti ja sen oma tutkimus- ja kehitystoiminta lisääntyy, objektiivisten, yhteisten mittareiden, kuten perplexityn, luominen voi olla ratkaisevan tärkeää koordinoiduille turvallisuustoimille. OpenAI toivoo, että tämä aloite johtaa läpinäkyvyyteen ja normien muodostumiseen alalla, mikä mahdollistaa tekoälyn kehityksen tehokkaan tahdistamisen sekä nousevien riskien havaitsemisen ja hallinnan.

A softly textured blue and turquoise gradient.
A softly textured blue and turquoise gradient. · Lähde ↗
Managing frontier AI risk: From training to deployment — Cover
Managing frontier AI risk: From training to deployment — Cover · Lähde ↗

Lähteet ja alkuperäiset raportit

Kommentit (0)

Ei vielä kommentteja. Aloita keskustelu.

Kirjoita kommentti

Kommentit julkaistaan moderoinnin jälkeen. Nimesi ja kommenttisi näkyvät julkisesti. Tili