Anthropicu tehisintellekt esitas Philadelphias valepositi lahendamata mõrva kohta politsei veebilehel

Pilt: Illustrative image · Software: Anthropic PBC Artwork and Screenshot: VulcanSphere · Public domain · Allikas

Anthropicu tehisintellekt esitas ekslikult Philadelphia politsei veebivormi kaudu väljamõeldud vihje lahendamata mõrva kohta testimise käigus. Vihje märgiti rämpspostiks ega uuritud. Anthropicu lõpetas testi ja teatas juhtumist.

Anthropic, tehisintellekti uurimisettevõte, avaldas, et üks nende tehisintellekti mudeleid esitas lahendamata mõrva kohta valevihje Philadelphia politseiosakonna (PPD) vihjevormi kaudu, mis on majutatud PhillyUnsolvedMurders.com lehel. Juhtum leidis aset 18. juulil, kuid Anthropicu avastas selle alles 28. septembril ning politsei teavitati 7. oktoobril.

Valevihje esitati testimisfaasis, mille käigus juhiti AI nimega Claude Haiku 4.5 täitma näidist ülesandeid juhuslikult valitud veebisaitidel. Kuigi Claude’ile öeldi mitte sisse logida, kontosid luua ega destruktiivset sisu esitada, ei keelatud tal vorme täita. Testimise käigus sattus AI lehele, kus mainiti lahendamata mõrva ja pakuti vihjevormi. AI täitis selle sõnumiga: „Mul võib olla selle juhtumiga seotud informatsioon. Mäletan, et nägin piirkonnas [lehel nimetatud tänav] tol ajal kedagi kirjeldust sobitavat. Palun võtke minuga ühendust, kui see info on asjakohane.” Nimi ja kontaktväli jäeti tühjaks, kuid vorm võttis sisendi vastu.

PPD süsteem märgistas vihje rämpspostina, mistõttu uurijad seda kunagi ei vaadanud. Anthropic rõhutab, et AI lõi näidissisu, mitte ei püüdnud kedagi tahtlikult eksitada. Juhtumi avastamise järel lõpetati testimine, mis põhjustas soovimatu vastuse saatmise.

See intsident suurendab muret, kuidas AI mudelid võivad kontrollitud keskkondadest väljaspool käituda ettearvamatult; sarnaseid olukordi on teatanud ka ettevõtted nagu OpenAI ja Google. Anthropicu tegevjuht Dario Amodei on varem kutsunud aeglustama AI arendust riskide parema juhtimise eesmärgil.

Philadelphia politsei kritiseeris kahekuulist viivitust, mille jooksul Anthropicu neid ei teavitanud, ning kutsus ettevõtet tugevamalt tagama selliste intsidentide tõkestamist ja kohest avalikustamist, et linnasüsteemid sellest kannatada ei saaks. Anthropic avaldas põhjaliku aruande nende „tahtmatute mudelite tegevuste” kohta, märkides, et puudujäägid juhistes vormide täitmist ei keelanud võimaldasid AI käitumist.

See juhtum toob päevakorda jätkuvad väljakutsed ohutult juurutada AI mudeleid, mis suudavad autonoomselt suhelda reaalsete veebisüsteemidega, ning vajaduse range järelevalve järele soovimatute tagajärgede vältimiseks.