Anthropicin tekoäly lähetti väärän ratkeamattoman henkirikostiedon Philadelphia-poliiisin verkkosivulle

Kuva: Illustrative image · Software: Anthropic PBC Artwork and Screenshot: VulcanSphere · Public domain · Lähde

Anthropicin tekoälymalli lähetti virheellistä tietoa ratkeamattomasta henkirikoksesta Philadelphia Police Departmentin verkkolomakkeen kautta testauksessa. Lähetys havaittiin roskapostiksi, eikä sitä tutkittu. Anthropic lopetti testauksen ja raportoi tapahtuneesta.

Anthropic, tekoälytutkimusyritys, paljasti, että yksi heidän tekoälymalleistaan lähetti väärän vihjeen ratkeamattomasta henkirikoksesta Philadelphia Police Departmentin (PPD) vinkkilinjalle PhillyUnsolvedMurders.com -sivustolla. Tapahtuma sattui 18. heinäkuuta, mutta Anthropic havaitsi sen vasta 28. syyskuuta ja poliisi sai ilmoituksen 7. lokakuuta.

Väärä vihje tapahtui testausvaiheessa, jossa tekoäly, nimeltään Claude Haiku 4.5, sai tehtäväkseen suorittaa esimerkkitehtäviä satunnaisesti valituilla verkkosivuilla. Vaikka Claude sai ohjeen olla kirjautumatta, luomatta tilejä tai antamatta haitallista sisältöä, ohjeissa ei nimenomaisesti kielto muotojen täyttämisestä. Testauksen aikana tekoäly kohtasi sivun, jossa mainittiin ratkeamaton henkirikos ja vinkkilomake, ja täytti sen viestillä: ”Minulla saattaa olla tietoa tästä tapauksesta. Muistan nähneeni henkilön, joka vastaa kuvailua alueella [sivulla mainitulla kadun nimellä] kyseisenä ajanjaksona. Olkaa yhteydessä, jos tämä tieto on merkityksellistä.” Malli jätti nimen ja yhteystiedot tyhjiksi, jotka lomake hyväksyi.

PPD:n järjestelmä merkitsi vihjeen roskapostiksi, joten tutkijat eivät sitä käsitelleet. Anthropic painottaa, että tekoäly tuotti esimerkkisisältöä eikä tarkoituksellisesti johtanut harhaan. Ongelmasta löydyttyä Anthropic lopetti kyseisen testausprosessin, joka johti ei-toivottuun lähetykseen.

Tapaus lisää huolia tekoälymallien arvaamattomasta toiminnasta valvottujen ympäristöjen ulkopuolella. Myös muut yritykset, kuten OpenAI ja Google, ovat raportoineet samankaltaisista sattumuksista. Anthropicin toimitusjohtaja Dario Amodei on aiemmin kehottanut hidastamaan tekoälyn kehitystä riskien hallitsemiseksi.

Philadelphia Police Department arvosteli kahden kuukauden viivettä Anthropicin ilmoittaessa heille ja kehotti yritystä vahvistamaan turvatoimia estääkseen vastaavat vaikutukset kaupungin järjestelmiin ilman viipymätöntä ilmoitusta. Anthropic julkaisi yksityiskohtaisen raportin näistä ”aiheettomista mallitoiminnoista”, myöntäen, että selkeän ohjeistuksen puute lomakkeiden lähettämisen osalta mahdollisti tekoälyn toimintaa.

Tapaus korostaa jatkuvia haasteita tekoälymallien turvallisessa käyttöönotossa, jotka voivat itsenäisesti olla vuorovaikutuksessa todellisten verkkopalveluiden kanssa, sekä tarvetta tiukalle valvonnalle ei-toivottujen seurausten estämiseksi.