Dirbtinio intelekto lyderiai įspėja apie didėjančias kibernetinio saugumo grėsmes ir ragina griežtesnių saugumo priemonių

Vaizdas: Illustrative image · National Academies - Earth and Life Studies · CC BY 3.0 · Šaltinis

Google DeepMind ir Microsoft vadovai ragina stiprinti dirbtinio intelekto saugumo protokolus bei tarptautinę reguliaciją, siekiant užkirsti kelią didėjančioms kibernetinėms atakoms, pabrėžiant poreikį gynybinėms inovacijoms kartu su DI plėtra.

Tarptautinėje DI konferencijoje Dublinyje pagrindiniai dirbtinio intelekto atstovai išreiškė susirūpinimą dėl didėjančių kibernetinio saugumo rizikų, susijusių su DI technologijomis. Google DeepMind bendrasis įkūrėjas Demis Hassabis apibūdino pastarąsias DI sąlygotos kibernetines atakas kaip „ankstyvus įspėjamuosius šūvius“, kurie rodo galimą rimtesnių incidentų pavojų, jei įmonės ir vyriausybės neįgyvendins sustiprintų saugumo priemonių.

Hassabis rekomendavo taikyti saugumo praktikas iš griežtai reguliuojamų sričių, tokių kaip biologija ir branduolinė technologija, siūlydamas naudoti saugias, izoliuotas aplinkas DI sistemoms kruopščiai testuoti prieš jas diegiant internete. Jis pabrėžė būtinybę stiprinti kibernetinio saugumo gynybą, kad ji pralenktų atakų vykdytojus, siūlydamas tokias sritis kaip bankininkystė ir vyriausybė galėtų patys pasitelkti DI proaktyviai silpnybėms programinėje įrangoje aptikti ir šalinti prieš ją plačiai paskleidžiant.

Be to, Hassabis dar kartą paragino įsteigti tarptautinę standartų instituciją, kuri prižiūrėtų DI saugumą. Jis akcentavo, kad tokia reguliacija turi būti lanksti, kad spėtų žengti koja kojon su sparčiomis technologijų pažangomis, neblokuodama inovacijų.

Pritardamas šiai nuomonei, Microsoft prezidentas ir generalinis direktorius Brad Smith apibūdino artėjantį 2026 metus kaip kritinį laikotarpį DI saugumui, agituodamas "protingos" ir "subalansuotos" reguliacijos naudai. Smith pabrėžė, jog nei viena kompanija ar technologija neturėtų veikti be teisinių priežiūros mechanizmų ir nurodė Microsoft strateginį 34 000 inžinierių perskyrimą iš produktų kūrimo į kibernetinio saugumo sritį kaip sunkų, tačiau būtino žingsnio. Jis taip pat kritikavo pasipriešinimą reguliavimo priemonėms DI pramonėje, pavadindamas tai "alergija", kurią būtina įveikti.

Paraleliai Google DeepMind ir Google Cloud paskelbė bendrą iniciatyvą stiprinti DI mokslinius tyrimus Europoje. Jie planuoja suteikti iki 200 Europos mokslininkų prieigą prie pažangių DI modelių ir 3 mln. JAV dolerių skaičiavimo kreditų. Ši programa, kuri yra ES iniciatyvos DI mokslui dalis pavadinimu AI for Science in Europe (RAISE), siekia padėti mokslininkams spręsti sudėtingas problemas, tokias kaip ekstremalių oro reiškinių prognozavimas ir molekulinių struktūrų žemėlapių sudarymas naudojant pažangias DI technologijas, įskaitant AlphaFold 3 ir AlphaGenome.

Šie pokyčiai atspindi augančią DI pramonės lyderių pripažinimą dėl būtinybės turėti tvirtas saugumo sistemas ir bendradarbiauti valdant DI pažangą siekiant apsaugoti technologijų plėtrą ir paremti mokslinius proveržius.