Anthropic udziela zewnętrznemu nadzorcy AI dostępu na poziomie pracownika, aby wzmocnić nadzór nad bezpieczeństwem

Image: Ars Technica · Source

Anthropic osadziło zespół zewnętrznego nadzorcy wewnątrz swoich biur, dając mu szeroki dostęp do samodzielnej oceny ryzyka modeli AI, co stanowi istotny krok w kierunku przejrzystości i odpowiedzialności w zakresie bezpieczeństwa AI.

Anthropic, wiodący deweloper sztucznej inteligencji, podjął istotny krok w celu wzmocnienia nadzoru nad bezpieczeństwem, przyznając zewnętrznej organizacji nadzorczej to, co określa jako "dostęp podobny do pracowniczego" do swoich wewnętrznych systemów i sprzętu. Inicjatywa ta ma na celu przejrzyste ocenianie ryzyka związanego z modelami AI, w tym Claudem, poprzez bezpośrednie osadzenie zespołu nadzorczego w biurach Anthropic. Zewnętrzni oceniający należą do METR, organizacji non-profit z wcześniejszym doświadczeniem we współpracy z dużymi laboratoriami AI, takimi jak OpenAI, Google i Meta. Dysponując pełnym dostępem porównywalnym do zespołów oceniających ryzyko w Anthropic, pracownicy METR mogą niezależnie audytować, przeglądać i analizować zagadnienia bezpieczeństwa.

Ten krok następuje w obliczu szerokich obaw branżowych i publicznych dotyczących rosnących potencjalnych zagrożeń związanych z coraz potężniejszymi systemami AI, obejmujących zakłócenia ekonomiczne, zagrożenia cybernetyczne aż po ryzyko egzystencjalne. CEO Anthropic, Dario Amodei, który promował oceny ze strony osób trzecich, zyskał poparcie wpływowych postaci z branży AI, w tym Sama Altmana z OpenAI i Elona Muska ze SpaceX, co podkreśla rzadki konsensus na temat ważności solidnego nadzoru zewnętrznego.

Anthropic podkreśliło, że choć dąży do publicznej odpowiedzialności w zakresie pracy nad bezpieczeństwem, bezpośrednie publiczne ujawnienie wszystkich wrażliwych informacji mogłoby ujawnić podatności złym aktorom lub konkurencji. Zamiast tego zdecydowano się na model analogiczny do nadzoru bankowego, gdzie regulatorzy stacjonują egzaminatorów w dużych bankach, by osobiście oceniali ryzyka i działali proaktywnie. Oceny METR mogą być publikowane bez zatwierdzenia przez Anthropic, choć firma może domagać się redakcji wrażliwych danych, takich jak informacje o klientach, komunikacja prawna czy szczegóły własności modeli.

Aby wzmocnić ten nadzór, Anthropic wyposażyło METR w sprzęt firmowy, przestrzeń biurową oraz nieograniczony dostęp podobny do tego, jaki mają wewnętrzne zespoły ds. bezpieczeństwa. Pracownicy Anthropic są zachęcani do współpracy z recenzentami METR w taki sam sposób jak z kolegami nad problemami ryzyka, wspierając transparentną współpracę. Co istotne, to porozumienie realizowane jest bez finansowego wynagrodzenia ze strony Anthropic na rzecz METR, które działa wyłącznie dzięki funduszom charytatywnym i rządowym, co zapewnia jego niezależność.

To wydarzenie ma miejsce, gdy Anthropic przygotowuje się do głośnej oferty publicznej, której wycena szacowana jest na ponad 2 biliony dolarów w tym roku. Firma chce pokazać, że bezpieczeństwo AI i rygorystyczne zarządzanie ryzykiem pozostają kluczowymi priorytetami mimo nacisków komercyjnych. Poza METR, Anthropic kontynuuje współpracę z innymi partnerami ds. bezpieczeństwa, takimi jak Accenture, angażujące się w szerokie inwestycje w testowanie bezpieczeństwa, oraz SecureBio, który ocenia ryzyka związane z zagrożeniami chemicznymi i biologicznymi.

Anthropic wezwało inne firmy zajmujące się wiodącą AI do przyjęcia podobnych programów osadzonych oceniających, podkreślając dobrowolną transparentność w celu wspólnego podnoszenia standardów branżowych w kwestii bezpieczeństwa. METR wyraził gotowość do rozszerzenia swoich działań nadzorczych na cały krajobraz AI, by dostarczać lepsze dowody publiczne i zapewnienia dotyczące bezpieczeństwa AI.

Podsumowując, bezprecedensowe przyznanie przez Anthropic szerokiego dostępu wewnętrznego zewnętrznemu nadzorcy stanowi znaczący postęp w zarządzaniu AI. Tworzy to możliwy precedens dla osadzania niezależnych oceniających wewnątrz firm AI, aby proaktywnie identyfikować i łagodzić ryzyka w obliczu rosnących wezwań do silniejszych ram regulacyjnych dla zaawansowanych technologii AI.