„Microsoft“ generalinis direktorius Satya Nadella ragina įdiegti avarinį stabdį ir pasitikėjimo architektūrą AI modeliuose

Vaizdas: TechCrunch · Šaltinis

„Microsoft“ generalinis direktorius Satya Nadella ragina peržiūrėti AI saugos priemones, propaguodamas tokius valdymo mechanizmus kaip avarinis stabdys ir skaidri dokumentacija, siekiant efektyviai valdyti AI rizikas.

„Microsoft“ generalinis direktorius Satya Nadella viešai pabrėžė skubų poreikį stiprinti saugumo ir pasitikėjimo mechanizmus dirbtinio intelekto sistemose. 2026 m. spalio 10 d. paskelbtoje žinutėje „X“ platformoje Nadella pasiūlė, kad dabartinis požiūris, kai DI ar, kaip jis vadina, „Superintelektas“ yra traktuojamas kaip neaiškūs „įterpti juodieji langeliai“, turi keistis. Vietoje to jis siūlo aiškų atskyrimą tarp DI modelių ir sistemų, kurios valdo jų veikimą, leidžiantį efektyviau kontroliuoti.

Nadella pateikė kelias svarbias pasiūlymus saugesnei DI ateičiai. Jo vizijos centre yra išorinės kontrolės ir apsaugos priemonės, reguliuojančios DI elgesį, kartu su reikalavimu, kad kiekvienas svarbus DI sprendimas būtų lydimas nepažeidžiamų, žmogui suprantamų įrodymų. Ši skaidrumo praktika užtikrintų DI rezultatų atsakomybę ir atsekamumą.

Ypatingai jis pasiūlė mechanizmą, panašų į „avarinį stabdį“ – sistemą, kuri leistų manyti, kad bet kuris DI modelis gali būti pažeistas, ir suteiktų įgaliotiems asmenims galimybę sustabdyti ar visiškai išjungti DI modelius vykdant užduotis. Ši kontrolė galėtų užkirsti kelią neplanuotiems ar žalingiems rezultatams, leidžiant realaus laiko intervenciją.

Šie pareiškimai atsiranda augant industrijos pripažinimui apie iššūkius valdyti pažangius DI modelius. Ypatingai „Anthropic“ generalinis direktorius Dario Amodei neseniai pristatė atsargios DI plėtros planą, atspindintį didėjančią DI lyderių susirūpinimą saugumu ir etikos klausimais.

Nadellos raginimas „atsitraukti ir peržiūrėti pasitikėjimo architektūrą“ DI modeliuose pabrėžia „Microsoft“ įsipareigojimą proaktyviai spręsti DI saugos klausimus, galbūt turintį įtakos platesnėms pramonės praktikoms ir reguliavimo mechanizmams.