AI-ledare varnar för ökande cybersäkerhetshot i samband med krav på striktare säkerhetsåtgärder

Bild: Illustrative image · National Academies - Earth and Life Studies · CC BY 3.0 · Källa

Google DeepMind och Microsofts ledare uppmanar till förbättrade AI-säkerhetsprotokoll och internationell reglering för att förebygga eskalerande cyberattacker, och betonar behovet av försvarsinriktad innovation parallellt med AI-utvecklingen.

Vid den internationella AI-summiten i Dublin har nyckelfigurer inom artificiell intelligens uttryckt oro över de ökande cybersäkerhetsriskerna som AI-teknologier medför. Demis Hassabis, medgrundare av Google DeepMind, beskrev nyligen genomförda cyberattacker med AI som "tidiga varningsskott" som signalerar möjligheten till mer allvarliga incidenter om inte förbättrade säkerhetsåtgärder implementeras av företag och regeringar.

Hassabis rekommenderade att man antar säkerhetspraxis från starkt reglerade områden som biologi och kärnteknik, och föreslog användning av säkra, isolerade miljöer för rigorösa tester av AI-system innan de släpps online. Han betonade nödvändigheten av att stärka cybersäkerhetsförsvar för att ligga före angriparna, och föreslog att sektorer som bank- och offentlig förvaltning själva kan använda AI för att proaktivt identifiera och åtgärda mjukvarusårbarheter innan bred lansering.

Dessutom upprepade Hassabis uppmaningen att etablera en internationell standardmyndighet för övervakning av AI-säkerhet. Han underströk att sådan reglering måste vara anpassningsbar för att hänga med de snabba teknologiska framstegen utan att hämma innovation.

I linje med detta beskrev Microsofts ordförande och VD Brad Smith det kommande året 2026 som en kritisk period för AI-säkerhet, och förespråkade en "förnuftig" och "balanserad" reglering. Smith betonade att inget företag eller teknologi bör verka utanför rättslig tillsyn och nämnde Microsofts strategiska omfördelning av 34 000 ingenjörer från produktutveckling till cybersäkerhetsinsatser som ett svårt men nödvändigt steg. Han kritiserade också motstånd inom AI-industrin mot regleringsåtgärder och kallade det en "allergi" som måste övervinnas.

Parallellt meddelade Google DeepMind och Google Cloud ett samarbetsinitiativ för att stärka AI-forskningen i Europa. De planerar att erbjuda upp till 200 europeiska forskare tillgång till avancerade AI-modeller och 3 miljoner dollar i beräkningsresurser. Programmet är en del av EU:s AI for Science-initiativ, kallat Resource for AI Science in Europe (RAISE), och syftar till att hjälpa forskare att tackla komplexa utmaningar som att förutse extremväder och kartlägga molekylstrukturer med hjälp av avancerade AI-verktyg som AlphaFold 3 och AlphaGenome.

Dessa utvecklingar belyser en växande insikt bland AI-branschens ledare om det brådskande behovet av robusta säkerhetsramverk och samarbetsstyrning för att skydda AI-framsteg och stödja vetenskapliga genombrott.