Microsoft-sjef Satya Nadella ber om nødbrems og tillitsarkitektur i AI-modeller

Bilde: TechCrunch · Kilde

Microsoft-sjef Satya Nadella oppfordrer til en revurdering av AI-sikkerhet og argumenterer for kontrollmekanismer som en nødbrems og åpen dokumentasjon for å håndtere AI-risiko effektivt.

Microsoft-sjef Satya Nadella har offentlig understreket det akutte behovet for å forbedre sikkerhets- og tillitsmekanismer i kunstige intelligenssystemer. I en uttalelse lagt ut på X 10. oktober 2026 foreslo Nadella at dagens tilnærming, som behandler AI, eller "Super Intelligence" som han kaller det, som ugjennomtrengelige "innlagte svarte bokser", må endres. I stedet går han inn for en klar separasjon mellom AI-modellene og rammene som styrer deres funksjoner, noe som vil muliggjøre mer effektiv tilsyn.

Nadella la frem flere viktige forslag for en tryggere AI-fremtid. Sentralt i hans visjon er implementeringen av eksterne kontroller og sikkerhetstiltak som regulerer AI-oppførsel, sammen med et krav om at alle betydelige AI-beslutninger ledsages av manipulasjonssikre, menneskelig leseverdige bevis. Denne åpenheten vil sikre at AI-resultater er ansvarlige og sporbare.

Viktigst etterlyste Nadella en mekanisme lik en "nødbrems" — et system designet for å anta at enhver AI-modell kan bli kompromittert, og som gir autorisert personell mulighet til å sette AI-modeller på pause eller helt slå dem av midt i en oppgave. Denne kontrollen kan forhindre utilsiktede eller skadelige utfall ved å muliggjøre inngrep i sanntid.

Disse uttalelsene kommer midt i en økende erkjennelse i bransjen av utfordringer ved å kontrollere avanserte AI-modeller. Spesielt har Anthropic-sjef Dario Amodei nylig foreslått en veikart for mer forsiktig AI-utvikling, noe som reflekterer økt bekymring blant AI-ledere om sikkerhets- og etiske risikoer.

Nadellas oppfordring til å "ta et skritt tilbake og vurdere tillitsarkitekturen" i AI-modeller understreker Microsofts forpliktelse til proaktivt å ta tak i AI-sikkerhet, noe som potensielt kan påvirke bredere bransjepraxis og regulatoriske tilnærminger.