Liderzy AI ostrzegają przed rosnącymi zagrożeniami w cyberbezpieczeństwie i wzywają do zaostrzenia środków bezpieczeństwa

Image: Illustrative image · National Academies - Earth and Life Studies · CC BY 3.0 · Source

Dyrektorzy Google DeepMind i Microsoft apelują o wzmocnienie protokołów bezpieczeństwa AI oraz międzynarodową regulację, aby zapobiec eskalacji cyberataków, podkreślając potrzebę innowacji obronnych obok rozwoju AI.

Na Międzynarodowym Szczycie AI w Dublinie kluczowe postacie sztucznej inteligencji wyraziły obawy dotyczące rosnącego ryzyka cyberbezpieczeństwa związanego z technologiami AI. Demis Hassabis, współzałożyciel Google DeepMind, określił niedawne cyberataki z wykorzystaniem AI jako „wczesne sygnały ostrzegawcze”, które mogą zapowiadać poważniejsze incydenty, jeśli firmy i rządy nie wdrożą wzmocnionych środków bezpieczeństwa.

Hassabis zalecił przyjęcie praktyk bezpieczeństwa z wysoce regulowanych dziedzin, takich jak biologia i technologia jądrowa, proponując użycie bezpiecznych, izolowanych środowisk do rygorystycznego testowania systemów AI przed ich wdrożeniem online. Podkreślił konieczność wzmocnienia obrony cybernetycznej, aby wyprzedzić atakujących, sugerując, że sektory takie jak bankowość i administracja rządowa mogłyby same wykorzystywać AI do proaktywnego wykrywania i usuwania luk w oprogramowaniu przed jego szerokim udostępnieniem.

Ponadto Hassabis powtórzył apel o utworzenie międzynarodowej organizacji normatywnej nadzorującej bezpieczeństwo AI. Zaznaczył, że taka regulacja musi być elastyczna, aby nadążać za szybkim postępem technologicznym, nie hamując przy tym innowacji.

Podtrzymując ten punkt widzenia, prezes i dyrektor generalny Microsoft, Brad Smith, określił nadchodzący rok 2026 jako kluczowy okres dla bezpieczeństwa AI, opowiadając się za „rozsądną” i „zrównoważoną” regulacją. Smith podkreślił, że żadna firma ani technologia nie powinna działać poza nadzorem prawnym i wskazał na strategiczne przesunięcie 34 000 inżynierów Microsoft z rozwoju produktów na działania w zakresie cyberbezpieczeństwa jako trudny, lecz konieczny krok. Skrytykował również opór w branży AI wobec regulacji, opisując go jako „alergię”, którą należy przezwyciężyć.

Równolegle Google DeepMind i Google Cloud ogłosiły wspólną inicjatywę na rzecz rozwoju badań nad AI w Europie. Planują udostępnić do 200 europejskich badaczy najnowocześniejsze modele AI oraz przyznać 3 miliony dolarów w kredytach obliczeniowych. Program ten, będący częścią unijnej inicjatywy AI for Science pod nazwą Resource for AI Science in Europe (RAISE), ma pomóc naukowcom w rozwiązywaniu złożonych problemów, takich jak prognozowanie ekstremalnych zjawisk pogodowych czy mapowanie struktur molekularnych za pomocą zaawansowanych narzędzi AI, w tym AlphaFold 3 i AlphaGenome.

Te wydarzenia podkreślają rosnącą świadomość wśród liderów branży AI o pilnej potrzebie solidnych ram bezpieczeństwa i kooperacyjnego zarządzania, aby chronić postępy w AI oraz wspierać przełomy naukowe.