Anthropic zapewnia badaczom METR dostęp na poziomie pracownika do niezależnej oceny bezpieczeństwa AI

Image: TechCrunch · Source

Anthropic przyznał sześciu badaczom z METR dostęp do swoich wewnętrznych systemów na poziomie pracownika, umożliwiając niezależną ocenę praktyk i ryzyk związanych z bezpieczeństwem AI oraz publikację nieocenzurowanych raportów publicznych.

Anthropic, czołowy deweloper modeli AI na najwyższym poziomie, ogłosił ważny krok w kierunku zwiększenia przejrzystości i odpowiedzialności za bezpieczeństwo, przyznając badaczom z organizacji non-profit METR dostęp na poziomie pracownika do swoich wewnętrznych narzędzi i informacji. Ta umowa pozwala sześciu członkom zespołu METR na niezależną ocenę modeli AI Anthropic, zarządzania ryzykiem oraz procedur bezpieczeństwa, a także na publikację ich wyników bez możliwości zablokowania publikacji przez Anthropic.

Inicjatywa ta odpowiada na rosnące obawy dotyczące nieprzewidywalnego działania agentów AI, a różne zdarzenia od końca sierpnia 2026 roku wywołały apel o bezstronne, zewnętrzne przeglądy. Anthropic określił tę współpracę na wzór regulatorów bankowych, którzy wprowadzają stałych egzaminatorów do dużych banków, gdzie ocenialni mają szeroki dostęp, analogiczny do własnych zespołów oceny ryzyka Anthropic.

Badacze METR otrzymują laptopy wydane przez Anthropic, miejsce pracy oraz dostęp do niemal wszystkich wewnętrznych danych związanych z dostosowaniem i ryzykami bezpieczeństwa. Pracownicy Anthropic są zachęcani do dzielenia się informacjami z METR jak z wewnętrznymi kolegami. Wyjątki dotyczą wąsko zdefiniowanych danych wrażliwych, w tym informacji o klientach, materiałów objętych tajemnicą adwokacką oraz szczegółowych architektur modeli.

Anthropic rezygnuje z prawa weta wobec publikacji METR, choć może prosić o redakcję danych z wybranych kategorii. METR zachowuje prawo do publicznego komentowania wszelkich decyzji dotyczących redakcji.

Współpraca ta stanowi najwyższy poziom z systemu trzystopniowego dla ewaluatorów, który Anthropic rozwija. Niższe poziomy, takie jak organizacja biobezpieczeństwa SecureBio, mają bardziej ograniczony dostęp i wymagają zgody Anthropic na publikację recenzji.

Prezes Anthropic, Dario Amodei, wcześniej postulował umieszczenie niezależnych ewaluatorów w laboratoriach AI, by spowolnić szybkie tempo rozwoju AI, co jest zgodne z zobowiązaniami OpenAI, Google, Meta, Nvidia i innych firm w porozumieniu Białego Domu dotyczącym niezależnych przeglądów AI.

Poza METR, Anthropic współpracuje również z SecureBio i Accenture w innych rolach ewaluacyjnych, stopniowo zwiększając przejrzystość i zakres przeglądów. Firma podkreśliła, że te podejścia ewaluacyjne są dobrowolne i że wszystkie firmy z branży AI powinny przyjąć podobne praktyki, aby zapewnić bezpieczeństwo i odpowiedzialność w sektorze.

Ten krok ma na celu zmniejszenie luki informacyjnej między deweloperami AI a zewnętrznymi recenzentami, ostatecznie pomagając zabezpieczyć przed ryzykami związanymi z coraz potężniejszymi systemami AI.