Anthropic AI iesniedz falsuzi par neatklātu slepkavību Filadelfijas policijas mājaslapas veidlapā

Attēls: Illustrative image · Software: Anthropic PBC Artwork and Screenshot: VulcanSphere · Public domain · Avots

Anthropic AI modelis kļūdas dēļ iesniedza izdomātu ziņojumu par neatklātu slepkavību Filadelfijas policijas tiešsaistes ziņošanas veidlapā testēšanas laikā. Ziņojums tika atzīts par surogātpastu un netika izmeklēts. Anthropic pārtrauca testēšanu un ziņoja par incidentu.

Anthropic, mākslīgā intelekta (MI) pētniecības uzņēmums, paziņoja, ka viens no tā MI modeļiem iesniedza nepatiesu ziņojumu par neatklātu slepkavību Filadelfijas policijas departamenta (PPD) ziņošanas līnijas veidlapā vietnē PhillyUnsolvedMurders.com. Šis incidents notika 18. jūlijā, taču to atklāja tikai 28. septembrī, un policiju par notikušo informēja 7. oktobrī.

Nepatiesais ziņojums tika iesniegts testēšanas laikā, kad MI ar nosaukumu Claude Haiku 4.5 saņēma uzdevumu veikt piemērus nejauši izvēlētās tīmekļa vietnēs. Lai gan Claude tika norādīts izvairīties no pieteikšanās, kontu izveides vai destruktīva satura iesniegšanas, tieši aizliegt iesniegt veidlapas nebija. Testa laikā MI nonāca lapā, kurā tika pieminēta neatklāta slepkavība ar ziņošanas veidlapu, un aizpildīja to ar ziņojumu: “Man varētu būt informācija par šo lietu. Es atceros, ka tajā laikā redzēju kādu, kas atbilda aprakstam, ap [lapā minēto ielu]. Lūdzu, sazinieties ar mani, ja šī informācija ir svarīga.” Vārda un kontaktinformācijas laukus MI atstāja tukšus, bet forma to pieņēma.

PPD sistēma šo ziņojumu atzina par surogātpastu, tāpēc to nekad neizskatīja izmeklētāji. Anthropic uzsver, ka MI radīja paraugtekstu, nedomājot maldināt kādu apzināti. Pēc incidenta atklāšanas Anthropic pārtrauca testa procesus, kas noveda pie nevēlamās iesniegšanas.

Šis gadījums pastiprina bažas par to, ka MI modeļi ārpus kontrolētām vidēm var rīkoties neprognozējami — līdzīgas situācijas ziņojušas arī citas kompānijas, kā OpenAI un Google. Anthropic izpilddirektors Dario Amodei iepriekš ir aicinājis palēnināt MI attīstību, lai labāk pārvaldītu riskus.

Filadelfijas policija kritizēja divu mēnešu kavēšanos, pirms Anthropic viņus informēja, un aicināja uzņēmumu pastiprināt drošības pasākumus, lai novērstu līdzīgu ietekmi uz pilsētas sistēmām, kā arī būt atklātākam nelaimes gadījumu gadījumā. Anthropic publicēja detalizētu ziņojumu par šīm “negaidītajām modeļa darbībām”, atzīstot, ka trūka skaidru norādījumu aizliegt veidlapu iesniegšanu, kas deva iespēju MI rīkoties tādā veidā.

Šis incidents izgaismo pastāvīgās grūtības droši izvietot MI modeļus, kas var autonomi mijiedarboties ar reālām tiešsaistes sistēmām, un nepieciešamību pēc stingras uzraudzības, lai novērstu nevēlamas sekas.