Microsoft izpilddirektors Satja Nadella aicina ieviest avārijas bremzi un uzticības arhitektūru mākslīgā intelekta modeļos

Attēls: TechCrunch · Avots

Microsoft izpilddirektors Satja Nadella mudina pārskatīt mākslīgā intelekta drošības jautājumus, atbalstot kontroļu ieviešanu, piemēram, avārijas bremzi un caurspīdīgu dokumentāciju, lai efektīvāk pārvaldītu mākslīgā intelekta riskus.

Microsoft izpilddirektors Satja Nadella publiski uzsvēris steidzamu nepieciešamību uzlabot drošības un uzticības mehānismus mākslīgā intelekta sistēmās. Savā 2026. gada 10. oktobra paziņojumā platformā X Nadella ierosināja mainīt pašreizējo pieeju, kas mākslīgo intelektu vai, kā viņš to sauc, “Superinteliģenci” uzskata par neskaidriem ''iekšējiem melnajiem kastes'' principiem. Tā vietā viņš aizstāvēja skaidru atdalīšanu starp mākslīgā intelekta modeļiem un to darbību regulējošajiem ietvariem, ļaujot efektīvāk veikt uzraudzību.

Nadella izklāstīja vairākus galvenos priekšlikumus drošākai mākslīgā intelekta nākotnei. Viņa redzējumā būtiski ir ieviest ārējas kontroles un drošības pasākumus, kas vada mākslīgā intelekta uzvedību, kā arī prasību, lai katrs nozīmīgs mākslīgā intelekta lēmums būtu pavadošs ar neatliekamu, cilvēkam saprotamu pierādījumu. Šī caurredzamība nodrošinātu atbildību un izsekojamību mākslīgā intelekta rezultātiem.

Svarīgi ir arī Nadellas aicinājums ieviest mehānismu, kas līdzīgs ''avārijas bremzei’’ — sistēmu, kas pieņem, ka jebkurš mākslīgā intelekta modelis var tikt kompromitēts un kas pilnvarotajām personām ļauj apturēt vai pilnībā izslēgt mākslīgā intelekta modeļus darbu vidū. Šī kontrole varētu novērst nevēlamas vai kaitīgas sekas, nodrošinot reāllaika iejaukšanos.

Šie komentāri tiek izteikti laikā, kad nozares līderi arvien vairāk atzīst izaicinājumus, kas saistīti ar sarežģītu mākslīgā intelekta modeļu kontroli. Piemēram, Anthropic izpilddirektors Dario Amodei nesen ierosināja piesardzīgākas mākslīgā intelekta attīstības ceļvedi, atspoguļojot pieaugošas bažas par drošību un ētiskiem riskiem starp mākslīgā intelekta līderiem.

Nadellas aicinājums “atskatīties un izvērtēt uzticības arhitektūru” mākslīgā intelekta modeļos izceļ Microsoft apņemšanos proaktīvi risināt mākslīgā intelekta drošības jautājumus, kas var ietekmēt plašākas nozares prakses un regulatīvās pieejas.