Anthropic gewährt externem KI-Kontrollorgan Zugriffsrechte auf Mitarbeiterebene zur Verbesserung der Sicherheitsaufsicht

Image: Ars Technica · Source

Anthropic hat ein externes Kontrollteam in seine Büros eingebettet und diesem umfassenden Zugang gewährt, um Risiken von KI-Modellen unabhängig zu bewerten – ein bedeutender Schritt für Transparenz und Verantwortlichkeit in der KI-Sicherheit.

Anthropic, ein führender Entwickler künstlicher Intelligenz, hat einen bedeutenden Schritt unternommen, um die Sicherheitsaufsicht zu verstärken, indem es einer externen Kontrollorganisation sogenannte „Mitarbeiterähnliche Zugriffsrechte“ auf interne Systeme und Hardware gewährt hat. Diese Initiative zielt darauf ab, die mit seinen KI-Modellen, darunter Claude, verbundenen Risiken transparent zu evaluieren, indem das Kontrollteam direkt in den Büros von Anthropic eingebettet wird. Die externen Prüfer gehören zu METR, einer gemeinnützigen Organisation mit Erfahrung in Zusammenarbeit mit großen KI-Labors wie OpenAI, Google und Meta. Durch den vollen Zugriff, vergleichbar mit dem der internen Risiko-Teams von Anthropic, können die METR-Mitarbeiter Sicherheitsaspekte eigenständig auditieren, überprüfen und analysieren.

Dieser Schritt folgt auf umfangreiche Bedenken in Industrie und Öffentlichkeit bezüglich der zunehmenden potenziellen Gefahren durch immer leistungsfähigere KI-Systeme, die von wirtschaftlichen Umwälzungen und Cyberbedrohungen bis hin zu existenziellen Risiken reichen. Der Vorstoß von Anthropic-CEO Dario Amodei für Bewertungen durch Drittparteien hatte zuvor Unterstützung von einflussreichen KI-Persönlichkeiten erhalten, darunter Sam Altman von OpenAI und Elon Musk von SpaceX, was einen seltenen Konsens über die Bedeutung robuster externer Aufsicht unterstreicht.

Anthropic betont, dass es zwar öffentliche Verantwortung in seiner Sicherheitsarbeit anstrebt, eine unmittelbare Veröffentlichung aller sensiblen Informationen aber Schwachstellen gegenüber böswilligen Akteuren oder Wettbewerbern offenbaren könnte. Stattdessen hat sich das Unternehmen für ein Modell ähnlich der Bankenaufsicht entschieden, bei dem Regulierungsbehörden Prüfer innerhalb großer Banken stationieren, um Risiken aus erster Hand und proaktiv zu beurteilen. METR-Prüfer haben die Befugnis, ihre Ergebnisse ohne Zustimmung von Anthropic zu veröffentlichen, wobei das Unternehmen jedoch bei sensiblen Daten wie Kundeninformationen, juristischen Kommunikation oder proprietären Modelldetails um Schwärzungen bitten kann.

Um diese Aufsicht zu stärken, hat Anthropic METR mit unternehmenseigener Hardware, Büroflächen und uneingeschränktem Zugang ausgestattet, der dem interner Sicherheitsteams entspricht. Die Anthropic-Mitarbeiter werden ermutigt, mit den METR-Prüfern wie mit Kollegen in Risikoangelegenheiten zu interagieren, um eine kollaborative Transparenz zu fördern. Bemerkenswert ist, dass diese Vereinbarung ohne finanzielle Vergütung von Anthropic an METR erfolgt, das ausschließlich auf philanthropische und staatliche Mittel angewiesen ist und so seine Unabhängigkeit wahrt.

Diese Entwicklung erfolgt, während sich Anthropic auf einen hochkarätigen Börsengang vorbereitet, der in diesem Jahr auf über 2 Billionen US-Dollar bewertet wird. Das Unternehmen möchte zeigen, dass KI-Sicherheit und rigoroses Risikomanagement trotz kommerzieller Zwänge zentrale Prioritäten bleiben. Neben METR arbeitet Anthropic weiterhin mit anderen Sicherheitspartnern wie Accenture zusammen, das umfangreiche Investitionen in Sicherheitstests tätigt, sowie SecureBio, das Risiken im Bereich chemischer und biologischer Bedrohungen bewertet.

Anthropic hat andere führende KI-Unternehmen aufgerufen, ähnliche Programme mit eingebetteten Prüfern anzunehmen und betont freiwillige Transparenz zur gemeinschaftlichen Verbesserung der Sicherheitsstandards der Branche. METR erklärte seine Bereitschaft, seine Aufsichtstätigkeiten auf das gesamte KI-Spektrum auszudehnen, um bessere öffentliche Nachweise und Sicherheit in Bezug auf KI-Sicherheit zu gewährleisten.

Zusammenfassend markiert die beispiellose Gewährung eines umfassenden internen Zugriffs durch Anthropic an ein externes Kontrollorgan einen bemerkenswerten Fortschritt in der KI-Governance. Dies könnte einen Präzedenzfall dafür setzen, unabhängige Prüfer innerhalb von KI-Unternehmen zu integrieren, um proaktiv Risiken zu identifizieren und zu mindern angesichts wachsender Forderungen nach stärkeren regulatorischen Rahmenbedingungen für fortschrittliche KI-Technologien.