Anthropic proponuje ustawę o bezpieczeństwie AI ograniczającą wydawanie modeli w obliczu katastrofalnego ryzyka

Image: TechCrunch · Source

Anthropic opracowało projekt ustawy dotyczącej bezpieczeństwa AI, który ma zablokować wydania modeli AI niosących bezpośrednie katastrofalne ryzyko, takie jak ponad 50 ofiar śmiertelnych lub miliardowe straty, wymagając sądowej zgody na zatrzymanie wdrożenia.

W obliczu rosnących obaw dotyczących potencjalnych zagrożeń sztucznej inteligencji, laboratorium AI Anthropic przedstawiło projekt ustawy skoncentrowanej na bezpieczeństwie AI, proponując nowy system regulacji zaawansowanych systemów AI. Według doniesień Politico, proponowane przepisy Anthropic mają zapobiec wydawaniu modeli AI, które stanowią „przewidywalne, bezpośrednie ryzyko” katastrofalnych skutków.

Ustawa określa konkretne progi takich zagrożeń, włączając scenariusze, w których wydanie modelu AI mogłoby prowadzić do śmierci ponad 50 osób lub spowodować szkody majątkowe przekraczające miliard dolarów. Konsekwencje te muszą wynikać z zdarzeń takich jak stworzenie lub użycie broni biologicznej, model AI unikający kontroli twórców lub uczestniczący w cyberataku. Kryteria te przypominają niedawne kalifornijskie przepisy (Senate Bill 53), które podobnie definiują katastrofalne ryzyka wymagające regulacji.

Aby ocenić, czy model AI stanowi takie ryzyko, Anthropic proponuje zatrudnienie „niezależnych oceniających” zarejestrowanych w Departamencie Handlu USA. Oceniający, potencjalnie finansowani przez firmy AI, ale bez warunków płatności uzależnionych od wyników oceny, mieliby dokonywać przeglądu ryzyka modeli AI. Jeśli stwierdzą bezpośrednie zagrożenie katastrofalne, muszą poinformować Departament Handlu w ciągu 72 godzin. Następnie Departament Handlu musiałby ubiegać się o zgodę sędziego w Waszyngtonie na zablokowanie wydania modelu. Znacząco, ustawa zabrania każdej federalnej agencji samodzielnego zatrzymania wdrożenia modelu AI bez zgody sądu.

Ten system kontrastuje z bardziej samoregulacyjnymi podejściami preferowanymi w części przemysłu AI. Pomimo ostrzeżeń o ryzykach egzystencjalnych, wiele firm wahało się przed zaakceptowaniem obowiązkowego nadzoru, proponując zamiast tego dobrowolne monitorowanie przez niezależnych oceniających działających wewnątrz organizacji AI. Projekt ustawy Anthropic, który promują od czerwca 2026 roku wobec ustawodawców federalnych i stanowych jako część swojego Zaawansowanego Ramienia AI, stanowi bardziej stanowczą propozycję regulacyjną niż niektórzy konkurenci, jak Nvidia, która niedawno kwestionowała potrzebę nowych przepisów AI.

Chociaż odniesienia ustawy do katastrofalnych zagrożeń obejmujących masowe ofiary lub rozległe szkody majątkowe są bardziej ekstremalne niż powszechny przemysłowy nacisk na kwestie takie jak agentowe włamania – gdzie systemy AI działają autonomicznie w celu naruszenia bezpieczeństwa – propozycja ma na celu zapobieganie poważnym konsekwencjom. Nacisk na nadzór sądowy i niezależną ocenę odzwierciedla próbę wyważenia innowacji AI z gwarancjami bezpieczeństwa.

Anthropic nie udzielił szczegółowego publicznego komentarza poza potwierdzeniem istnienia projektu dla Politico. Podejście firmy wskazuje na gotowość do aktywnego udziału w kształtowaniu zarządzania AI, choć odbiór ustawy w Kongresie i wśród innych interesariuszy AI pozostaje niepewny. W miarę kontynuacji dyskusji regulacyjnych, projekt ustawy Anthropic stanowi wkład do ewoluującej debaty o najlepszym zarządzaniu ryzykami AI przy jednoczesnym wspieraniu postępu technologicznego.