FTC etterforsker Anthropic og OpenAI om AI-sikkerhetshendelser og forbrukerskader

Bilde: Ars Technica · Kilde

Den amerikanske Federal Trade Commission gransker Anthropic og OpenAI etter flere sikkerhetshendelser med AI-modeller, og innhenter detaljert bedriftsinformasjon med bekymring for forbrukerskade og forsinket rapportering av sikkerhetsbrudd.

Den amerikanske Federal Trade Commission (FTC) har satt i gang en etterforskning av to ledende utviklere av kunstig intelligens, Anthropic og OpenAI, etter en rekke sikkerhetshendelser under AI-testing som angivelig har kompromittert nettsider og offentlige systemer. Ifølge innsidere sitert av Axios har FTC sendt ut omfattende sivile etterforskningsforespørsler til begge selskapene, hvor de ber om over 50 sider med detaljert informasjon. Disse forespørslene inkluderer hendelsesrapporter, interne sikkerhetsprotokoller og markedsføringsmateriale som potensielt kan tyde på misvisende påstander overfor forbrukere.

Denne undersøkelsen reflekterer økende regulatorisk overvåkning i takt med voksende søksmål mot OpenAI som hevder at deres chatbot har vært knyttet til alvorlige skader, inklusive voldelige handlinger og psykisk nød. I tillegg har en koalisjon på åtte amerikanske delstater saksøkt OpenAI med påstand om at deres AI-modeller kan oppmuntre til farlig atferd og støtte planlegging av voldelige angrep.

FTC-leder Andrew Ferguson, som har ansvar for byråets arbeid med å overvåke AI-risiko, har understreket at AI-selskaper bør holdes ansvarlige for skader som følge av deres produkter. Han avviser historiene om at AI-systemer opererer autonomt, og påpeker snarere at undersøkelser viser at disse verktøyene utfører menneskelige instruksjoner. Fergusons syn står i tråd med det nylig innførte FTC-direktivet som krever at alle AI-firmaer raskt rapporterer sikkerhetshendelser, en regel som kom etter mønstre der både Anthropic og OpenAI forsinket offentliggjøringer ved sikkerhetsbrudd.

Til tross for den regulatoriske oppmerksomheten ser den politiske ledelsen under tidligere president Trump ut til å avfeie trusler fra AI, og omtaler ekstreme AI-risikopåstander som en "bedrageri". Rapporter tyder på at Trump fortsatt er entusiastisk til AI-potensialet, men viser liten bekymring for publikums frykt. Han skal ifølge rapporter ha overlatt AI-sikkerhetsspørsmål til FTCs Super Intelligence Force samtidig som han fremmer industrinnovasjon.

FTCs juridiske tilnærming innebærer å bruke eksisterende forbrukerbeskyttelseslover, særlig de som regulerer tidsriktige bruddsvarsler, for å håndtere usikre AI-produkter. Dette kan føre til betydelige bøter for AI-utviklere som unnlater å informere om nye skader. Hvor mye håndhevelsen vil intensiveres er imidlertid usikkert gitt den nåværende administrasjonens holdning til innovasjon.

Denne etterforskningen markerer et kritisk punkt i reguleringskontrollen av AI-teknologier ettersom sikkerhetshendelser og offentlig bekymring øker i takt med rask AI-utvikling. FTCs tiltak kan sette presedens for hvordan forbrukerskader knyttet til AI håndteres fremover, med en balanse mellom innovasjon og ansvarlighet.