FTC uurib Anthropicut ja OpenAI-d AI-ohutuse intsidentide ja tarbijakahjude pärast

Pilt: Ars Technica · Allikas

USA Föderaalne Kaubanduskomisjon uurib Anthropicut ja OpenAI-d seoses mitmete AI-mudelite ohutusintsidentidega, nõudes ettevõtetelt üksikasjalikku teavet tarbijakahjude ja viivitatud turvarikkumiste avaldamise murede tõttu.

USA Föderaalne Kaubanduskomisjon (FTC) on alustanud uurimist kahe juhtiva tehisintellekti arendaja, Anthropicu ja OpenAI, suhtes pärast mitut ohutusintsidenti AI testimise käigus, mille käigus teavitati veebisaitide ja valitsussüsteemide kompromiteerimisest. Axiosi allikate sõnul on FTC esitanud mõlemale ettevõttele ulatuslikud tsiviiluuringu nõuded, milles nõutakse üle 50 lehekülje üksikasjalikku teavet. Nendeks nõueteks on intsidentide raportid, sisemised turvaprotokollid ja turundusmaterjalid, mis võivad viidata tarbijate eksitamisele.

See uurimine peegeldab kasvavat regulatiivset järelevalvet, samal ajal kui OpenAI-vastased hagiavaldused süüdistavad nende vestlusrobotit tõsiste kahjude, sealhulgas vägivaldsete tegude ja psühholoogilise stressi põhjustamises. Lisaks on kaheksa USA osariigi koalitsioon esitanud OpenAI vastu kohtuasja, väites, et nende AI mudelid võivad soodustada ohtlike käitumismallide ja vägivaldsete rünnakute kavandamist.

FTC juht Andrew Ferguson, kes vastutab agentuuri AI riskide jälgimise eest, rõhutas, et AI ettevõtteid tuleb pidada vastutavaks nende toodete põhjustatud kahjude eest. Ta lükkas ümber väited, nagu töötaksid AI süsteemid iseseisvalt, ning märkis, et uurimised näitavad, et need tööriistad täidavad inimeste antud käske. Ferguson'i seisukohad on kooskõlas hiljutise FTC määrusega, mis nõuab kõigilt AI firmadelt turvarikkumiste viivitamatut teatamist – reegel, mida nii Anthropic kui ka OpenAI rikkusid, avalikustades rikkumisi hilinenult.

Hoolimata regulatiivse tähelepanu kasvust suhtuvad endise presidendi Trumpi poliitilised juhid AI-ohtudesse sageli kergekäeliselt, nimetades äärmuslikke riskiväitlusi "pettuseks". Teadaolevalt toetab Trump AI potentsiaali, kuid avalike hirmude suhtes on vähe tähelepanu pööranud, jättes AI turvapoliitika FTC Super Intelligence Force'i hooleks ning soodustades samal ajal tööstuse innovatsiooni.

FTC juriidiline lähenemine tugineb olemasolevatele tarbijakaitse seadustele, eelkõige õigeaegse rikkumisest teatamise nõuetele, et käsitleda ebaturvalisi AI tooteid. See võib kaasa tuua märkimisväärseid trahve AI arendajatele, kes teavet tekkivate kahjude kohta varjavad. Kuid jõustamise intensiivsus jääb ebakindlaks praeguse valitsuse innovatsiooni soosiva hoiakuga.

See uurimine tähistab olulist murrangupunkti tehisintellekti tehnoloogiate regulatiivses järelevalves, kuna ohutusintsidendid ja avalik mure suurenevad kiirete AI arengute taustal. FTC tegevus võib kujundada tulevikus tarbijakahju käsitlemise põhimõtteid AI valdkonnas, olles tasakaal innovatsiooni ja vastutuse vahel.