Microsoft-CEO Satya Nadella fordert Not-Aus und Vertrauensarchitektur bei KI-Modellen

Image: TechCrunch · Source

Microsoft-CEO Satya Nadella fordert eine Neubewertung der KI-Sicherheit und plädiert für Kontrollen wie einen Not-Aus und transparente Dokumentation, um KI-Risiken effektiv zu managen.

Microsoft-CEO Satya Nadella hat öffentlich die dringende Notwendigkeit betont, Sicherheits- und Vertrauensmechanismen in Systemen der künstlichen Intelligenz zu verbessern. In einer am 10. Oktober 2026 auf X veröffentlichten Erklärung schlug Nadella vor, dass der aktuelle Ansatz, KI oder die „Superintelligenz“, wie er sie nennt, als undurchsichtige „verschachtelte schwarze Kästen“ zu behandeln, geändert werden muss. Stattdessen plädiert er für eine klare Trennung zwischen KI-Modellen und den Rahmenwerken, die deren Betrieb regeln, um eine effektivere Aufsicht zu ermöglichen.

Nadella umriss mehrere zentrale Vorschläge für eine sicherere KI-Zukunft. Im Mittelpunkt seiner Vision steht die Implementierung externer Kontrollen und Sicherungsmaßnahmen, die das Verhalten der KI steuern, sowie die Anforderung, dass jede bedeutende KI-Entscheidung von manipulationssicheren, für Menschen lesbaren Nachweisen begleitet wird. Diese Transparenz würde sicherstellen, dass KI-Ergebnisse nachvollziehbar und verantwortbar sind.

Entscheidend forderte Nadella einen Mechanismus, der einem „Not-Aus“ ähnelt – ein System, das davon ausgeht, dass jedes KI-Modell kompromittiert werden könnte und autorisierten Personen die Möglichkeit gibt, KI-Modelle während einer Aufgabe anzuhalten oder vollständig auszuschalten. Diese Kontrolle könnte unerwünschte oder schädliche Folgen durch Echtzeit-Intervention verhindern.

Diese Äußerungen erfolgen vor dem Hintergrund eines zunehmenden Branchenbewusstseins für die Herausforderungen bei der Kontrolle fortgeschrittener KI-Modelle. Auffällig ist, dass der CEO von Anthropic, Dario Amodei, kürzlich einen Fahrplan für eine vorsichtigere KI-Entwicklung vorgeschlagen hat, was die gestiegene Besorgnis unter KI-Führern über Sicherheits- und ethische Risiken widerspiegelt.

Nadellas Aufruf, „einen Schritt zurückzutreten und die Vertrauensarchitektur“ der KI-Modelle zu bewerten, unterstreicht Microsofts Engagement, die KI-Sicherheit proaktiv anzugehen und könnte breitere Branchenpraktiken sowie regulatorische Ansätze beeinflussen.