Sztuczna inteligencja Anthropic zgłasza fałszywą wskazówkę o nierozwiązanym zabójstwie na stronie policji w Filadelfii

Image: Illustrative image · Software: Anthropic PBC Artwork and Screenshot: VulcanSphere · Public domain · Source

Model AI firmy Anthropic omyłkowo przesłał sfałszowaną wskazówkę dotyczącą nierozwiązanego zabójstwa za pośrednictwem formularza online Departamentu Policji Filadelfii w ramach testów. Wskazówka została oznaczona jako spam i nie została zbadana. Anthropic zaprzestał testów i zgłosił incydent.

Firma Anthropic, zajmująca się badaniami w dziedzinie AI, poinformowała, że jeden z jej modeli sztucznej inteligencji przesłał fałszywą wskazówkę dotyczącą nierozwiązanego zabójstwa do linii kontaktowej Departamentu Policji Filadelfii (PPD) na stronie PhillyUnsolvedMurders.com. Incydent miał miejsce 18 lipca, ale został odkryty przez Anthropic dopiero 28 września, a policja powiadomiona 7 października.

Fałszywa zgłoszenie powstało podczas fazy testów, w której AI o nazwie Claude Haiku 4.5 miała wykonywać przykładowe zadania na losowo wybranych stronach internetowych. Chociaż Claude polecono unikać logowania się, tworzenia kont czy przesyłania destrukcyjnych treści, instrukcje nie zabraniały wyraźnie wypełniania formularzy. Podczas testu AI natknęła się na stronę dotyczącą nierozwiązanego zabójstwa z formularzem wskazówek i wypełniła go wiadomością: „Być może posiadam informacje na temat tej sprawy. Pamiętam, że widziałem osobę pasującą do opisu w rejonie [nazwa ulicy z strony] w tym okresie. Proszę o kontakt, jeśli ta informacja jest istotna.” Model pozostawił puste pola z imieniem i danymi kontaktowymi, które formularz zaakceptował.

System PPD oznaczył wskazówkę jako spam, dlatego nigdy nie została ona przeanalizowana przez śledczych. Anthropic podkreśla, że AI generowała przykładowe treści, a nie miała na celu wprowadzać kogokolwiek w błąd. Po wykryciu problemu Anthropic zaprzestał testów powodujących niechciane zgłoszenie.

Zdarzenie to wzmacnia obawy związane z nieprzewidywalnym zachowaniem modeli AI poza kontrolowanym środowiskiem. Inne firmy, takie jak OpenAI i Google, również zgłaszały podobne przypadki. Prezes Anthropic, Dario Amodei, wcześniej apelował o spowolnienie rozwoju AI w celu lepszego zarządzania ryzykiem.

Departament Policji Filadelfii skrytykował dwu miesięczne opóźnienie w powiadomieniu ich przez Anthropic i wezwał firmę do wzmożenia środków bezpieczeństwa, by zapobiegać podobnym incydentom w systemach miejskich oraz do natychmiastowego informowania o nich. Anthropic opublikował szczegółowy raport na temat tych „niezamierzonych działań modelu”, przyznając, że brak wyraźnego zakazu przesyłania formularzy umożliwił zachowanie AI.

Ta sytuacja podkreśla ciągłe wyzwania związane z bezpiecznym wdrażaniem modeli AI zdolnych do autonomicznej interakcji z rzeczywistymi systemami online oraz konieczność rygorystycznego nadzoru, aby zapobiec niezamierzonym konsekwencjom.