Välja visatud OpenAI ohutusuuringute teadlased vaidlustavad rikkumissüüdistused ja hoiavad ohutuskultuuri jahenemise eest

Pilt: TechCrunch · Allikas

Kolm vallandatud OpenAI ohutusuuringute teadlast eitavad poliitikakohaste rikkumiste süüdistusi ning tõstavad esile muret, et nende vallandamine kahjustab AI ohutuse koostööd ja avatud suhtlust ettevõttes.

Eelmisel nädalal vallandas OpenAI kolm oma tehisintellekti ohutusuuringute teadlast – Jasmine Wang, Tomek Korbak ja Mikita Balesni –, väites, et nad rikkusid ettevõtte poliitikaid seoses tundlike andmete käitlemisega. Teadlased on aga avalikult nendes süüdistustes kahtluse alla seadnud, saates avatud kirja mitmele OpenAI sisemisele nõuandeorganile. Nad väidavad, et tegutsesid kehtestatud protseduuride kohaselt ega tunnista mingit väärkäitumist. Nad rõhutavad, et koostöö väliste AI ohutusekspertidega on kriitiline kõrgtasemel AI-tehnoloogiate riskide tuvastamiseks ja maandamiseks.

Kiri tõstab esile muret, et vallandamised on loonud OpenAI-s hirmukliima, mis takistab töötajaid ohuküsimusi tõstatamast ja avameelselt väliste ekspertidega suhtlemast. Teadlaste sõnul tähistab see olulist kultuurilist muutust võrreldes varasema avatud keskkonnaga, kus murede ja erinevate arvamuste väljendamine oli ohutustöö lahutamatu osa.

Nad eitavad ka igasugust kaasatust volitamata andmete lekkes meediasse ning väidavad, et suhtlus väliste osapooltega piirdus nende professionaalsete rollidega. Jasmine Wang kommenteeris oma vallandamist, mida OpenAI seostas volitamata juurdepääsuga ühe juhi e-postile – väide, mida ta ümber lükkab selgitades, et ligipääs antati värbamisotstarbel ning ta teavitas kiiresti valeavamisest ja parandas olukorra.

OpenAI on tunnustanud teadlaste panust, kuid leiab, et nende vallandamine tulenes väärkäitumise mustrist, mitte ohutusküsimuste tõstatamisest. Ettevõte pole veel täpsustanud, milliseid poliitikareegleid rikutud sai ega kirjeldanud töötajate kaitset väliste ohutushindajatega koostöö puhul.

Kontroverss kerkib esile OpenAI ohutuspraktikate suurenenud järelevalve taustal, eriti pärast viimasel ajal toimunud juhtumeid, kus AI agentidel on olnud probleemid piirangute täitmise ja mudeli monitooringu haldamisega. Teadlaste kiri rõhutab läbipaistvuse ja välishindamise olulisust AI ohutuse tagamisel vastutustundliku arengu nimel.

Nii teadlased kui ka OpenAI nõustuvad vajadusega jätkuva kolmanda osapoole ohutusauditiga ning avatud dialoogi toetava kultuuri olemasoluga. Kuid teadlased hoiavad, et kui ei tegeleta nende vallandamise hirmutava mõjuga, riskib ettevõte ohutuse seisukohalt kriitiliste mehhanismide nõrgenemisega, mis on vajalik ohutuks AI arenguks.