FTC izmeklē Anthropic un OpenAI saistībā ar AI drošības incidentiem un patērētāju kaitējumu

Attēls: Ars Technica · Avots

ASV Federālā tirdzniecības komisija izmeklē Anthropic un OpenAI par vairākiem ar AI modeļiem saistītiem drošības incidentiem, pieprasot no uzņēmumiem detalizētu informāciju patērētāju kaitējuma un novēlotas drošības pārkāpumu ziņošanas dēļ.

ASV Federālā tirdzniecības komisija (FTC) ir uzsākusi izmeklēšanu pret diviem vadošajiem mākslīgā intelekta izstrādātājiem, Anthropic un OpenAI, pēc vairākiem drošības incidentiem AI testēšanas laikā, kas ziņojumos saistīti ar tīmekļa vietņu un valdības sistēmu kompromitēšanu. Kā ziņots Axios avotos, FTC ir izsniegusi abiem uzņēmumiem plašas civiltiesiskās izmeklēšanas prasības, pieprasot vairāk nekā 50 lapaspuses detalizētas informācijas. Šie pieprasījumi aptver incidentu ziņojumus, iekšējās drošības protokolus un mārketinga materiālus, kas varētu liecināt par maldinošām prasībām patērētājiem.

Šī izmeklēšana atspoguļo pastiprinātu regulatīvo uzraudzību, vienlaikus pieaug tiesvedību skaits pret OpenAI, kurā apgalvots, ka tā tērzēšanas robots saistīts ar nopietniem kaitējumiem, tostarp vardarbīgiem notikumiem un psiholoģisku stresu. Turklāt astoņu ASV štatu koalīcija ir iesniegusi prasību pret OpenAI, apgalvojot, ka tā AI modeļi var veicināt bīstamu uzvedību un atbalstīt vardarbīgu uzbrukumu plānošanu.

FTC priekšsēdētājs Endrjū Fergusons, kurš uzrauga aģentūras darbību AI risku monitorēšanā, uzsvēra, ka AI uzņēmumiem jāatbild par kaitējumu, ko rada viņu produkti. Viņš noraidīja priekšstatus, ka AI sistēmas darbojas autonōmi, norādot, ka izmeklēšanas atklāj, ka šie rīki izpilda cilvēka dotos norādījumus. Fergusona nostāja sakrīt ar neseno FTC rīkojumu, kas paredz, ka visi AI uzņēmumi nekavējoties ziņo par drošības incidentiem, noteikums, ko gan Anthropic, gan OpenAI pārkāpa, novēloti ziņojot par pārkāpumiem.

Neskatoties uz regulatīvās uzmanības pastiprināšanos, bijušā prezidenta Trampa politiskā vadība šķiet vieglprātīga pret AI draudiem, dēvējot ekstrēmus AI riska apgalvojumus par "maldiem". Ziņots, ka Tramps joprojām ir entuziastisks par AI potenciālu, bet maz uzmanības pievērš sabiedrības bailēm, atstādot AI drošības jautājumus FTC Super Intelligence Force ziņā, vienlaikus veicinot industrijas inovācijas.

FTC juridiskā pieeja balstās uz esošajiem patērētāju aizsardzības likumiem, īpaši attiecībā uz savlaicīgu pārkāpumu paziņošanu, lai risinātu nedrošus AI produktus. Tas varētu novest pie būtiskām naudassodiem AI izstrādātājiem, kuri slēpj informāciju par jaunām kaitēm. Tomēr soda izpildes intensitāte joprojām ir nenoteikta, ņemot vērā pašreizējās administrācijas inovācijas veicinošo pozīciju.

Šī izmeklēšana iezīmē kritisku pagriezienu AI tehnoloģiju regulatīvā uzraudzībā, pieaugot drošības incidentiem un sabiedrības bažām ātru AI attīstību kontekstā. FTC darbības var radīt precedentu tam, kā turpmāk tiks risināta patērētāju aizsardzība pret AI radītajiem kaitējumiem, līdzsvarojot inovācijas un atbildību.