Atlaistītie OpenAI drošības pētnieki apstrīd pārkāpumu apsūdzības un brīdina par aukstinošu ietekmi drošības kultūrā

Attēls: TechCrunch · Avots

Trīs atlaistie OpenAI drošības pētnieki noliedz apsūdzības par politikas pārkāpumiem un izsaka bažas, ka viņu atlaišana apdraud AI drošības sadarbību un atklātību uzņēmumā.

Pagājušajā nedēļā OpenAI atlaida trīs savus mākslīgā intelekta drošības pētniekus — Jasmine Wang, Tomek Korbak un Mikitu Balesni — norādot, ka tie pārkāpuši uzņēmuma politiku saistībā ar sensitīvas informācijas apstrādi. Tomēr pētnieki publiski apstrīd šīs apsūdzības, nosūtot atklātu vēstuli vairākiem iekšējiem OpenAI konsultatīvajiem orgāniem. Viņi apgalvo, ka viņu darbības atbilda noteiktām procedūrām un noliegt jebkādu pārkāpumu. Viņi uzsver, ka sadarbība ar ārējiem AI drošības ekspertiem ir būtiska, lai identificētu un mazinātu riskus, kas saistīti ar progresīvām AI tehnoloģijām.

Vēstule izceļ bažas, ka atlaišanas radījušas bailes atmosfēru OpenAI, kas attur darbiniekus uzdot jautājumus par drošību un brīvi sadarboties ar ārējiem ekspertiem. Pētnieku ieskatā tas nozīmē būtisku kultūras maiņu no iepriekš veicinātas caurspīdīguma vides, kur gūtās bažas un domstarpības tika uzskatītas par visu drošības darba sastāvdaļu.

Viņi arī nolieguši jebkādu nolikumam neatbilstošu datu noplūdi medijos un apgalvo, ka viņu komunikācija ar ārējiem dalībniekiem bija saistīta tikai ar viņu profesionālajām funkcijām. Jasmine Wang īpaši skaidro savu atlaišanu, ko OpenAI saistīja ar nesankcionētu piekļuvi vadītāja e-pasta pastam — apgalvojumu, ko viņa noliedz, paskaidrojot, ka piekļuve bija dota atlases nolūkos, un viņa nekavējoties ziņoja un laboja nejaušu sensitīva e-pasta atvēršanu.

OpenAI ir atzinusi pētnieku ieguldījumu, taču apgalvo, ka viņu atlaišana bija saistīta ar pārkāpumu raksturu, nevis drošības jautājumu izcelšanu. Uzņēmums vēl nav precizējis konkrētās pārkāptās politikas normas vai aprakstījis darbinieku aizsardzības mehānismus, sadarbojoties ar ārējiem drošības novērtētājiem.

Strīds izceļas laikā, kad tiek pastiprināta uzmanība OpenAI drošības praksēm, it īpaši pēc nesen notikušiem gadījumiem, kuros AI aģenti pārkāpa ierobežojumus un pārraudzības procedūras. Pētnieku vēstule uzsver caurspīdīguma un ārējās atbildības nozīmi AI drošības centienos, lai nodrošinātu atbildīgu progresu modernās AI sistēmu attīstībā.

Gan pētnieki, gan OpenAI piekrīt nepieciešamībai pēc turpmākas trešās puses drošības audita un kultūras, kas atbalsta atklātu dialogu. Tomēr pētnieki brīdina, ka, neņemot vērā atlaišanas radīto aukstinošo ietekmi, uzņēmums riskē apdraudēt kritiski svarīgas drošības mekanizmus drošai AI attīstībai.