Bericht zeigt schnelle Beschleunigung der KI-Entwicklung bei Anthropic trotz Sicherheitsbedenken

Image: Why a new report on Anthropic automating AI development is alarming researchers · Source

Eine METR-Untersuchung zeigt, dass Anthropics KI-Modelle sich doppelt so schnell verbessern wie vor einem Jahr, hauptsächlich durch KI-Unterstützung, was Alarm über schnelle KI-Selbstverbesserung und begrenzte öffentliche Transparenz auslöst.

Detaillierter Bericht zur beschleunigten KI-Entwicklung bei Anthropic

Ein ausführlicher Bericht der KI-Sicherheitsforschungsgruppe METR zeigt, dass Anthropic KI einsetzt, um die eigene KI-Entwicklung zu beschleunigen, wobei die Modelle des Unternehmens sich etwa doppelt so schnell verbessern wie noch vor einem Jahr. Diese schnelle Entwicklung wird vor allem auf KI-gestützte Forschung zurückgeführt, die die Produktivität der Mitarbeiter erheblich steigert, und nicht allein auf eine Erhöhung der Rechenressourcen. Laut der 11-wöchigen Untersuchung von METR haben interne KI-Werkzeuge von Anthropic es den Forschern ermöglicht, bis zu 12-mal effizienter zu arbeiten im Vergleich zu den Produktivitätsniveaus vor der KI, ein Anstieg, der in den letzten Monaten weiter zunahm.

Der Bericht hebt hervor, dass Anthropic in den letzten sechs Monaten drei fortgeschrittene KI-Modelle fertiggestellt hat, die alle noch unveröffentlicht sind und die Codenamen Modell 2, Modell 3 und Modell 4 tragen. Diese neuesten Modelle bilden die Grundlage für große Teile der Produktivitäts- und Geschwindigkeitssteigerungen des Unternehmens. Allerdings nahm Anthropic umfangreiche Schwärzungen in der öffentlich verfügbaren Version des METR-Berichts vor, wodurch viele spezifische Details zu diesen Entwicklungen verborgen bleiben. Das Unternehmen rechtfertigte die Schwärzungen mit dem Schutz kommerziell sensibler Informationen und der Verhinderung, dass Konkurrenten ein ähnliches Tempo erreichen — eine Haltung, die wegen ihrer Intransparenz kritisiert wird.

Der Mitgründer von Anthropic, Sam McCandlish, räumte die Kompromisse bei der Einschränkung von Informationen ein, verteidigte jedoch die Entscheidung als notwendig, um Risiken im Zusammenhang mit der Offenlegung von detaillierten Beschleunigungsfaktoren zu managen. Er kündigte an, dass Anthropic bald einen eigenen Bericht über Fortschritte in der KI und kommende Sicherheitsinitiativen veröffentlichen werde.

Diese Enthüllungen haben die Debatte innerhalb der KI-Sicherheitsgemeinschaft verstärkt, da Anthropic sich als sicherheitsbewusster Vorreiter positioniert, während es die KI-Fähigkeiten schnell vorantreibt. Experten betonen, dass eine derart schnelle, KI-gesteuerte Entwicklung die Zeitpläne für Systeme mit rekursiver Selbstverbesserung — KI, die sich mit minimaler menschlicher Beteiligung selbst verbessert — vorverlegen könnte, was Bedenken hinsichtlich der Angemessenheit aktueller Sicherheits- und Regulierungsmaßnahmen hervorruft.

Kritiker zeigen sich zudem frustriert über Anthropics widersprüchliche öffentliche Aufrufe zur Verlangsamung des KI-Fortschritts im Gegensatz zum aktuellen Entwicklungspfad, besonders angesichts der starken Schwärzungen, die unabhängige Analysen erschweren. Forderungen nach mehr Transparenz, unabhängiger Aufsicht und der Einbindung von Sicherheitsforschern direkt in KI-Labore werden lauter. Einige politische Akteure, alarmiert durch diese Entwicklungen, setzen sich für strengere Vorschriften oder gar Verbote der Forschung an rekursiv selbstverbessernder KI ein.

Insgesamt bietet der METR-Bericht eine der klarsten Einsichten bisher, wie sich die Spitzenforschung in der KI eigenständig beschleunigt, hebt aber auch erhebliche Herausforderungen hervor, Offenheit, Wettbewerbsinteressen und Sicherheitsgovernance in Einklang zu bringen, während diese Technologie rasch voranschreitet.