FTC tiria Anthropic ir OpenAI dėl AI saugumo incidentų ir vartotojų žalos

Vaizdas: Ars Technica · Šaltinis

JAV Federalinė prekybos komisija tiria Anthropic ir OpenAI dėl kelių su AI modelių saugumu susijusių incidentų, prašydama išsamių įmonių duomenų dėl susirūpinimo vartotojų žala ir vėluojančiu saugumo pažeidimų pranešimu.

JAV Federalinė prekybos komisija (FTC) pradėjo tyrimą dėl dviejų pirmaujančių dirbtinio intelekto kūrėjų – Anthropic ir OpenAI – po kelių saugumo incidentų, kurie įvyko testuojant AI ir, kaip pranešama, paveikė svetaines bei vyriausybės sistemas. Pasak Axios šaltinių, FTC išsiuntė abiem įmonėms išsamius civilinio tyrimo reikalavimus, prašydama daugiau nei 50 puslapių detalių informacijos. Šios užklausos apima incidentų ataskaitas, vidaus saugumo protokolus ir rinkodaros medžiagą, galinčią rodyti klaidinančius teiginius vartotojams.

Šis tyrimas atspindi didėjantį reguliavimo susidomėjimą, itin daugėja ieškinių prieš OpenAI, kuriuose teigiama, kad jos pokalbių robotas susijęs su rimta žala, įskaitant smurtinius veiksmus ir psichologinę žalą. Be to, aštuonių JAV valstijų koalicija pateikė ieškinį OpenAI, teigdama, kad jos AI modeliai gali skatinti pavojingą elgesį ir remti smurtinių atakų planavimą.

FTC pirmininkas Andrew Ferguson, kuris prižiūri agentūros veiklą stebint AI rizikas, pabrėžė, kad AI įmonės turėtų būti atsakingos už žalą, atsirandančią dėl jų produktų. Jis atmetė pasakojimus, kad AI sistemos veikia autonomiškai, pažymėdamas, kad tyrimai rodo, jog šie įrankiai vykdo žmonių duotus nurodymus. Fergusono pozicija sutampa su neseniai priimtu FTC nurodymu, kuriuo reikalaujama, kad visos AI įmonės nedelsiant praneštų apie saugumo incidentus – taisyklė atsirado po to, kai tiek Anthropic, tiek OpenAI vėlavo atskleisti informacijos apie pažeidimus.

Nepaisant reguliavimo dėmesio, buvusio prezidento Trumpo politinė vadovybė, atrodo, nejaudina AI grėsmės, vadindama ekstremalias AI rizikos pastabas „sukčiavimu“. Pranešama, kad Trumpas išlieka entuziastingas dėl AI potencialo, bet nelabai rūpinasi visuomenės baimėmis. Slaptai jis paliko AI saugumo klausimus FTC superinteligencijos komandai, skatindamas inovacijas pramonėje.

FTC teisinė strategija remiasi esamais vartotojų apsaugos įstatymais, ypač tais, kurie reglamentuoja savalaikį atskleidimą apie pažeidimus, siekiant spręsti nesaugų AI produktų klausimus. Tai gali lemti ženklias baudas AI kūrėjams, kurie slepia informaciją apie kylančią žalą. Tačiau, kiek vykdymas bus sustiprintas, išlieka neaišku, atsižvelgiant į dabartinės administracijos inovacijų skatinimo poziciją.

Šis tyrimas yra svarbus reguliavimo priežiūros AI technologijų taškas, kai saugumo incidentai ir visuomenės susirūpinimas didėja sparčiai tobulėjant AI. FTC veiksmai gali nustatyti precedento tvarką, kaip toliau spręsti vartotojų žalą dėl AI, derinant inovacijas su atsakomybe.