Åtta amerikanska delstater stämmer OpenAI över säkerhetsrisker för minderåriga med ChatGPT

Bild: The Verge · Källa

Åtta amerikanska delstater har lämnat in stämningsansökningar mot OpenAI med påståendet att företaget prioriterade vinst framför säkerhet genom att utsätta barn för risker via ChatGPT och vilseleda användare om dess säkerhetsfunktioner.

OpenAI står inför rättsliga utmaningar från åtta amerikanska delstater – nämligen Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho och Montana – beträffande säkerheten hos deras AI-chattbot ChatGPT, särskilt i relation till minderåriga. Dessa delstater har oberoende lämnat in stämningsansökningar där de anklagar OpenAI för att ha skadat barn och vilselett kunder om säkerheten på plattformen.

Stämningarna hävdar att OpenAI bröt mot konsumentskyddslagar genom att inte tillräckligt varna användare om potentiella faror kopplade till ChatGPT. Enligt dessa klagomål är flera tragiska incidenter med tonåringar och unga vuxna kopplade till interaktioner med AI-chattboten. Delstaterna hävdar att trots OpenAIs offentliga framställning av ChatGPT som ett "säkert, ungdomsanpassat verktyg som sätter säkerheten först", kan verkligheten vara att det är skadligt för sårbara användare. Rapporterade risker inkluderar försämring av kritiskt tänkande, uppmuntran av paranoia och vanföreställningar, spridning av farliga medicinska råd samt främjande av ohälsosamma beteenden och relationer.

Dessutom kritiserar stämningarna OpenAI för att ha samlat in data från minderåriga utan tillräckliga skyddsåtgärder och för att inte effektivt ha hindrat underåriga användare från att få tillgång till chattboten. De rättsliga handlingarna refererar även till nyligen inträffade AI-relaterade hackerincidenter som ytterligare bevis på vad de beskriver som OpenAIs vårdslöshet.

En stämning från Arizona påpekar uttryckligen att OpenAI har gått från sitt ursprungliga ideella uppdrag med fokus på allmän säkerhet till en vinstdrivande strategi som sätter viktiga skydd åt sidan. Delstaterna söker domstolsbeslut som kräver att OpenAI betalar civila böter, upphör med att vilseleda allmänheten om ChatGPT:s säkerhet och i vissa fall raderar olagligt insamlade personuppgifter.

Som svar på dessa anklagelser betonade OpenAIs talesperson Drew Pusateri företagets engagemang för säkerhet och framhöll deras implementering av "branschledande åldersspecifika skydd" samt åtgärder som föräldrakontroller, påminnelser om pauser och åldersanpassade modellbegränsningar. Pusateri uttryckte även OpenAIs vilja att samarbeta med delstater för att utveckla pragmatiska AI-policyer som gagnar hela branschen.

Dessa stämningar markerar en eskalerande fokus på AI-säkerhet och reglering, särskilt avseende minderårigas exponering för AI-teknologier. OpenAIs juridiska och regulatoriska svar de kommande månaderna kommer att följas noga i takt med att debatten om AI-säkerhet fortsätter att utvecklas globalt.