Microsofts VD Satya Nadella efterlyser nödbroms och förtroendearkitektur i AI-modeller

Bild: TechCrunch · Källa

Microsofts VD Satya Nadella manar till en omprövning av AI-säkerheten och förespråkar kontroller som en nödbroms och transparent dokumentation för att effektivt hantera riskerna med AI.

Microsofts VD Satya Nadella har offentligt betonat det brådskande behovet av att förbättra säkerhet och förtroendemekanismer i artificiella intelligenssystem. I ett uttalande publicerat på X den 10 oktober 2026 föreslog Nadella att det nuvarande angreppssättet som behandlar AI, eller "Super Intelligence" som han kallar det, som ogenomträngliga "inbäddade svarta lådor" måste förändras. Istället förespråkar han en tydlig åtskillnad mellan AI-modellerna och de ramverk som styr deras funktioner, vilket möjliggör effektivare tillsyn.

Nadella skisserade flera viktiga förslag för en säkrare AI-framtid. Centralt i hans vision är införandet av externa kontroller och skydd som reglerar AI-beteendet, tillsammans med ett krav på att varje betydande AI-beslut åtföljs av manipulationssäker, människoläsbar bevisning. Denna transparens skulle säkerställa att AI-utdata är ansvariga och spårbara.

Avgörande kallade Nadella på en mekanism liknande en "nödbroms" — ett system utformat för att anta att vilken AI-modell som helst kan bli komprometterad och för att ge auktoriserad personal möjlighet att pausa eller helt stänga av AI-modeller mitt i en uppgift. Denna kontroll skulle kunna förhindra oavsiktliga eller skadliga utfall genom att möjliggöra ingripanden i realtid.

Dessa uttalanden kommer mitt i en ökande branschinsikt om utmaningar i att kontrollera avancerade AI-modeller. Särskilt har Anthropics VD Dario Amodei nyligen föreslagit en färdplan för mer försiktig AI-utveckling, vilket speglar den ökande oron bland AI-ledare angående säkerhet och etiska risker.

Nadellas uppmaning att "ta ett steg tillbaka och bedöma förtroendearkitekturen" för AI-modeller understryker Microsofts åtagande att proaktivt ta itu med AI-säkerhet, vilket potentiellt kan påverka bredare branschpraxis och regelverk.