Anthropic gewährt METR-Forschern mit Mitarbeiterzugang unabhängige KI-Sicherheitsbewertung

Image: TechCrunch · Source

Anthropic hat sechs Forschern von METR einen mit Mitarbeitenden vergleichbaren Zugang zu internen Systemen gewährt, um eine unabhängige Bewertung seiner KI-Sicherheitspraktiken und Risiken zu ermöglichen und verspricht unvoreingenommene öffentliche Berichte ohne Vetorecht.

Anthropic, ein führender Entwickler von fortschrittlichen KI-Modellen, kündigte einen bedeutenden Schritt zu mehr Transparenz und Sicherheitsverantwortung an, indem es Forschern der gemeinnützigen Organisation METR einen mit Mitarbeiterzugang vergleichbaren Zugang zu internen Tools und Informationen gewährte. Diese Vereinbarung ermöglicht es den sechs Teammitgliedern von METR, Anthropics KI-Modelle, Risikomanagement und Sicherheitsprotokolle unabhängig zu evaluieren und ihre Ergebnisse zu veröffentlichen, ohne dass Anthropic die Veröffentlichung blockieren kann.

Diese Initiative reagiert auf zunehmende Sorgen über unvorhersehbar handelnde KI-Agenten, nachdem seit Ende August 2026 verschiedene Vorfälle gemeldet wurden, die nach unvoreingenommenen externen Prüfungen riefen. Anthropic orientierte die Zusammenarbeit am Modell von Bankaufsichtsbehörden, die fest angestellte Prüfer in großen Banken einsetzen, denen ein weitreichender Zugang gewährt wird, vergleichbar mit dem Zugang von Anthropics eigenen Risikobewertungsteams.

Die METR-Forscher erhalten von Anthropic bereitgestellte Laptops, Büroarbeitsplätze und Zugang zu nahezu allen internen Daten, die für Ausrichtungs- und Sicherheitsrisiken relevant sind. Die Mitarbeiter von Anthropic werden ermutigt, Informationen mit METR zu teilen, als wären diese interne Kolleg:innen. Ausnahmen gelten nur für eng definierte sensible Daten, darunter Kundendaten, anwaltlich geschützte Informationen und detaillierte Modellarchitekturen.

Anthropic verzichtet auf ein Vetorecht bezüglich der Veröffentlichungen von METR, kann jedoch Korrekturen bei den eingeschränkten Datenkategorien verlangen. METR behält sich das Recht vor, öffentlich zu allen Korrekturentscheidungen Stellung zu nehmen.

Diese Zusammenarbeit stellt die höchste Stufe eines drei Stufen umfassenden Evaluatorensystems dar, das Anthropic entwickelt. Niedrigere Stufen, wie die Bio-Sicherheits-Non-Profit-Organisation SecureBio, haben eingeschränkteren Zugang und benötigen Anthropics Genehmigung, um Bewertungen zu veröffentlichen.

Anthropics CEO Dario Amodei hatte zuvor vorgeschlagen, unabhängige Prüfer in KI-Labore zu integrieren, um die rasante Entwicklung der KI zu bremsen – ein Konzept, das mit Verpflichtungen von OpenAI, Google, Meta, Nvidia und anderen in einem Weißes-Haus-Abkommen zur unabhängigen KI-Überprüfung übereinstimmt.

Neben METR arbeitet Anthropic auch mit SecureBio und Accenture für weitere Evaluator-Rollen zusammen und erweitert so schrittweise die Transparenz und den Umfang der Überprüfungen. Das Unternehmen betonte, dass diese Evaluationsansätze freiwillig sind und alle führenden KI-Firmen ähnliche Praktiken übernehmen sollten, um Sicherheit und Verantwortlichkeit in der Branche zu gewährleisten.

Dieser Schritt zielt darauf ab, die Informationslücke zwischen KI-Entwicklern und externen Prüfern zu verringern und letztlich gegen die Risiken immer leistungsfähigerer KI-Systeme zu schützen.