AI-ledere advarer om økende cybersikkerhetstrusler i takt med krav om strengere sikkerhetstiltak

Bilde: Illustrative image · National Academies - Earth and Life Studies · CC BY 3.0 · Kilde

Google DeepMind og Microsofts ledere oppfordrer til forsterkede AI-sikkerhetsprotokoller og internasjonal regulering for å forhindre økende cyberangrep, og understreker behovet for forsvarsinnovasjon parallelt med AI-utvikling.

På den internasjonale AI-toppen i Dublin har sentrale personer innen kunstig intelligens uttrykt bekymring for de økende cybersikkerhetsrisikoene som AI-teknologier medfører. Demis Hassabis, medgründer av Google DeepMind, beskrev nylige AI-drevne cyberangrep som "tidlige varselskudd" som signaliserer potensialet for mer alvorlige hendelser hvis forbedrede sikkerhetstiltak ikke iverksettes av selskaper og myndigheter.

Hassabis anbefalte å adoptere sikkerhetspraksiser fra sterkt regulerte felt som biologi og kjernefysikk, og foreslo bruk av sikre, isolerte miljøer for grundig testing av AI-systemer før de tas i bruk på nett. Han understreket nødvendigheten av å styrke cybersikkerhetsforsvaret for å ligge foran angriperne, og foreslo at sektorer som bank og offentlig forvaltning kunne bruke AI selv for proaktivt å oppdage og utbedre programvaresårbarheter før bred distribusjon.

Videre gjentok Hassabis oppfordringen om å etablere en internasjonal standardorganisasjon for å overvåke AI-sikkerhet. Han poengterte at slik regulering må være tilpasningsdyktig for å holde tritt med rask teknologisk utvikling uten å hemme innovasjon.

I tråd med dette beskrev Microsofts styreleder og administrerende direktør Brad Smith det kommende året 2026 som en kritisk periode for AI-sikkerhet, og argumenterte for "fornuftig" og "balansert" regulering. Smith understreket at ingen selskap eller teknologi bør operere utenfor juridisk kontroll, og nevnte Microsofts strategiske omdisponering av 34 000 ingeniører fra produktutvikling til cybersikkerhetsinnsats som et vanskelig, men nødvendig steg. Han kritiserte også motstand i AI-industrien mot reguleringstiltak, og beskrev dette som en "allergi" som må overvinnes.

Parallelt kunngjorde Google DeepMind og Google Cloud et samarbeid for å styrke AI-forskning i Europa. De planlegger å gi opptil 200 europeiske forskere tilgang til banebrytende AI-modeller og 3 millioner dollar i beregningskreditter. Dette programmet, som er en del av EUs AI for Science-initiativ kalt Resource for AI Science in Europe (RAISE), har som mål å hjelpe forskere å løse komplekse utfordringer som å forutsi ekstremvær og kartlegge molekylstrukturer gjennom avanserte AI-verktøy inkludert AlphaFold 3 og AlphaGenome.

Disse utviklingene fremhever en økende erkjennelse blant ledere i AI-bransjen om det presserende behovet for robuste sikkerhetsrammeverk og samarbeidsstyring for å beskytte AI-framsteg og støtte vitenskapelige gjennombrudd.