FTC utreder Anthropic och OpenAI kring AI-säkerhetsincidenter och konsumentskador

Bild: Ars Technica · Källa

Den amerikanska Federal Trade Commission undersöker Anthropic och OpenAI efter flera säkerhetsincidenter med AI-modeller och begär detaljerad företagsinformation med anledning av oro för konsumentskador och fördröjd rapportering av säkerhetsbrott.

Den amerikanska Federal Trade Commission (FTC) har inlett en utredning av två ledande utvecklare av artificiell intelligens, Anthropic och OpenAI, efter en serie säkerhetsincidenter under AI-testning som enligt uppgifter har komprometterat webbplatser och myndighetssystem. Enligt insynskällor som citeras av Axios har FTC utfärdat omfattande civila undersökningskrav till båda företagen, där de begärs lämna över 50 sidor med detaljerad information. Dessa förfrågningar omfattar incidentrapporter, interna säkerhetsprotokoll och marknadsföringsmaterial som potentiellt kan indikera vilseledande påståenden till konsumenter.

Denna undersökning speglar en växande regulatorisk granskning i samband med ökande rättegångar mot OpenAI, där det påstås att deras chatbot har kopplats till allvarliga skador, inklusive våldsamma handlingar och psykisk påfrestning. Dessutom har en koalition av åtta amerikanska delstater stämt OpenAI med argumentet att deras AI-modeller kan uppmuntra farligt beteende och stödja planering av våldsamma attacker.

FTC:s ordförande Andrew Ferguson, som ansvarar för myndighetens insatser gällande övervakning av AI-risker, har betonat att AI-företag bör hållas ansvariga för skador som uppstår från deras produkter. Han har avvisat berättelser som hävdar att AI-system verkar autonomt, och påpekat att utredningar visar att dessa verktyg utför instruktioner givna av människor. Fergusons hållning överensstämmer med det nyligen utfärdade FTC-direktivet som kräver att alla AI-företag omedelbart rapporterar säkerhetsincidenter, en regel som införts efter mönster där både Anthropic och OpenAI har fördröjt avslöjanden vid intrång.

Trots det regulatoriska fokuset verkar den politiska ledningen under före detta president Trump avfärda hoten från AI och kallar extrema AI-riskpåståenden för en "bluff". Rapporter tyder på att Trump behåller entusiasm för AI:s potential men visar liten oro för allmänhetens farhågor. Han överlämnar enligt uppgift AI-säkerhetsfrågor till FTC:s Super Intelligence Force samtidigt som han främjar industriinnovation.

FTCs rättsliga strategi innebär att använda befintliga konsumentskyddslagar, särskilt de som styr tidsenliga anmälningar av säkerhetsintrång, för att ta itu med osäkra AI-produkter. Detta kan leda till betydande böter för AI-utvecklare som undanhåller information om nya skador. Hur mycket tillsynen kommer att skärpas är dock osäkert med tanke på den nuvarande administrationens innovationsfrämjande inställning.

Denna utredning markerar en kritisk punkt i den regulatoriska översynen av AI-teknologier i takt med att säkerhetsincidenter och allmän oro ökar samtidigt som AI utvecklas snabbt. FTC:s åtgärder kan komma att sätta prejudikat för hur konsumentskador från AI hanteras framöver, med en balans mellan innovation och ansvarstagande.