Anthropic piedāvā mākslīgā intelekta drošības likumprojektu, kas ierobežo modeļu izplatīšanu katastrofālu risku gadījumā

Attēls: TechCrunch · Avots

Anthropic ir sagatavojis mākslīgā intelekta drošības likumprojektu, kura mērķis ir aizliegt AI modeļu izplatīšanu, ja tās rada tūlītēju katastrofālu risku — piemēram, vairāk nekā 50 nāves gadījumu vai miljardu dolāru zaudējumus, prasot tiesas atļauju, lai apturētu modeli.

Pieaugošo bažu fonā par mākslīgā intelekta iespējamiem draudiem, AI laboratorija Anthropic ir izstrādājusi likumprojekta priekšlikumu, kas koncentrējas uz mākslīgā intelekta drošību un iesaka jaunu ietvarstruktūru progresīvo AI sistēmu regulēšanai. Saskaņā ar Politico ziņojumu, Anthropic piedāvātā likumdošana cenšas novērst AI modeļu izplatīšanu, kas rada “paredzamu, tūlītēju katastrofālu risku”.

Likumprojekts nosaka konkrētus kritērijus šādiem riskiem, tostarp situācijas, kurās AI modeļa izplatīšana varētu novest pie vairāk nekā 50 cilvēku nāves vai pāri miljarda dolāru īpašuma zaudējumiem. Šie seku gadījumi jāsaista ar notikumiem, piemēram, bioloģiskā ieroča radīšanu vai izvēršanu, AI modeļa kontroļu apzinātu izvairīšanos vai dalību kiberuzbrukumā. Šie kritēriji līdzinās nesenajam Kalifornijas likumam (Senate Bill 53), kas līdzīgi definē katastrofālus riskus, kuriem nepieciešama regulatīva uzmanība.

Lai novērtētu, vai AI modelis rada šādus riskus, Anthropic piedāvā izmantot “neatkarīgus novērtētājus”, kas reģistrēti ASV Tirdzniecības departamentā. Šos novērtētājus, iespējams, finansēs AI uzņēmumi, bet bez maksājuma nosacījumiem, kas būtu saistīti ar novērtējuma rezultātiem, kuri pārskatīs AI modeļus no riska viedokļa. Ja viņi konstatē tūlītēju katastrofālu draudu, viņiem jāziņo Tirdzniecības departamentam 72 stundu laikā. Turpinājumā departamentam būs jālūdz Vašingtonas D.C. tiesas apstiprinājums modeļa izplatīšanas bloķēšanai. Piezīmējam, ka likumprojekts aizliedz jebkurai federālajai aģentūrai patstāvīgi apturēt AI modeļa ieviešanu bez tiesas atļaujas.

Šis ietvars atšķiras no nozares daļas atbalstītās paškontrolēto pieejas. Neskatoties uz brīdinājumiem par eksistenciālajiem riskiem, daudzi uzņēmumi ir bijuši vilcinās pieņemt obligātu uzraudzību, vietā piedāvājot brīvprātīgu monitoringu, izmantojot neatkarīgus novērtētājus, kas ir integrēti AI organizācijās. Anthropic likumprojekts, kuru tie kopš 2026. gada jūnija popularizē federālajiem un štatu likumdevējiem kā daļu no sava Progresīvā AI Ietvara, ir vairāk uz risinājumu orientēts priekšlikums nekā daži nozarē, piemēram, Nvidia, kas nesen iestājās pret jaunu AI likumu nepieciešamību.

Kaut arī likumprojekta atsauces uz katastrofāliem riskiem, kas saistīti ar masveida upuriem vai plašiem īpašuma zaudējumiem, ir ekstrēmākas nekā industrijas parastā uzmanība jautājumiem, piemēram, autonomai uzlaušanai — kur AI sistēmas darbojas autonomi, lai pārkāptu drošību — šis priekšlikums cenšas novērst smagas sekas. Uzsvars uz tiesas uzraudzību un neatkarīgu novērtēšanu atspoguļo mēģinājumu līdzsvarot AI inovāciju ar drošības garantijām.

Anthropic nav sniedzis detalizētus publiskus komentārus, izņemot apstiprinājumu Politico par eelnākuma esamību. Uzņēmuma pieeja liecina par gatavību proaktīvi iesaistīties AI pārvaldības veidošanā, lai gan likumprojekta uzņemšana Kongresā un citu AI iesaistīto vidū vēl būs jāredz. Turpinoties regulatīvajām diskusijām, Anthropic piedāvājums papildina attīstības diskusiju par to, kā vislabāk pārvaldīt AI riskus, vienlaikus veicinot tehnoloģisko progresu.