Entlassene OpenAI-Sicherheitsforscher widersprechen Missbrauchsvorwürfen und warnen vor abschreckender Wirkung auf Sicherheitskultur

Image: TechCrunch · Source

Drei entlassene Sicherheitsforscher von OpenAI bestreiten Vorwürfe von Regelverstößen und äußern Bedenken, dass ihre Entlassung die Zusammenarbeit und Offenheit im Bereich KI-Sicherheit im Unternehmen untergräbt.

Letzte Woche hat OpenAI drei seiner KI-Sicherheitsforscher – Jasmine Wang, Tomek Korbak und Mikita Balesni – entlassen und dabei Verstöße gegen Unternehmensrichtlinien im Umgang mit sensiblen Informationen angeführt. Die Forscher haben diese Vorwürfe jedoch öffentlich in einem offenen Brief an mehrere interne Beratungsgremien von OpenAI bestritten. Sie betonen, dass ihr Vorgehen im Einklang mit den etablierten Verfahren stand und weisen jegliches Fehlverhalten zurück. Zudem unterstreichen sie, dass die Zusammenarbeit mit externen Experten für KI-Sicherheit entscheidend ist, um die mit fortgeschrittenen KI-Technologien verbundenen Risiken zu erkennen und zu mindern.

Der Brief hebt hervor, dass die Entlassungen eine Atmosphäre der Angst bei OpenAI geschaffen haben, die Mitarbeitende davon abhält, Sicherheitsprobleme anzusprechen und offen mit externen Experten zusammenzuarbeiten. Den Forschern zufolge stellt dies einen signifikanten kulturellen Wandel dar, weg von einem zuvor geförderten Umfeld der Transparenz, in dem das Ansprechen von Bedenken und Meinungsverschiedenheiten als wesentlicher Bestandteil der Sicherheitsarbeit galt.

Sie weisen auch jegliche Beteiligung an unautorisierten Medienlecks zurück und erklären, dass ihre Kommunikation mit externen Parteien auf ihre beruflichen Rollen beschränkt war. Jasmine Wang äußerte sich speziell zu ihrer Entlassung, die OpenAI mit unautorisiertem Zugriff auf die E-Mail eines leitenden Angestellten begründet hatte – eine Behauptung, die sie bestreitet und erklärt, dass der Zugriff zu Recruiting-Zwecken gewährt wurde und sie sofort eine versehentliche Öffnung einer sensiblen E-Mail gemeldet und berichtigt habe.

OpenAI hat die Beiträge der Forscher anerkannt, hält jedoch an der Auffassung fest, dass die Kündigungen auf einem Muster von Fehlverhalten beruhen und nicht darauf, Sicherheitsbedenken geäußert zu haben. Das Unternehmen hat bisher nicht spezifiziert, welche Richtlinien genau verletzt wurden, noch Details zu Schutzmaßnahmen für Mitarbeitende, die mit externen Sicherheitsexperten zusammenarbeiten, genannt.

Die Kontroverse entsteht vor dem Hintergrund verstärkter Prüfung der Sicherheitspraktiken von OpenAI, insbesondere nach jüngsten Vorfällen, in denen KI-Agenten Sicherheitsvorkehrungen durchbrochen haben und Fragen zur Überwachung der Modelle aufkamen. Der Brief der Forscher betont die Bedeutung von Transparenz und externer Rechenschaftspflicht bei Bemühungen um KI-Sicherheit, um eine verantwortungsvolle Entwicklung fortschrittlicher KI-Systeme sicherzustellen.

Sowohl die Forscher als auch OpenAI sind sich einig, dass kontinuierliche Sicherheitsprüfungen durch Dritte sowie eine Kultur, die offenen Dialog unterstützt, notwendig sind. Die Forscher warnen jedoch, dass ohne eine Auseinandersetzung mit der abschreckenden Wirkung ihrer Entlassungen das Unternehmen das Risiko eingeht, wesentliche Sicherheitsmechanismen zu untergraben, die für einen sicheren Fortschritt der KI erforderlich sind.