OpenAI lanserar AI-modell med fokus på cybersäkerhet mitt i ökande digitala hot

Bild: TechCrunch · Källa

OpenAI presenterar ChatGPT Cyber, en ny AI-modell som syftar till att stärka cybersäkerheten genom att upptäcka och åtgärda sårbarheter i mjukvara, som svar på växande oro kring AI-understödd hacking.

OpenAI har lanserat en specialiserad AI-modell för cybersäkerhet som heter ChatGPT Cyber, avsedd att identifiera och hantera mjukvarusårbarheter för att skydda kritisk digital infrastruktur. Denna lansering sker samtidigt som AI-drivna verktyg alltmer används både av cybersäkerhetsförsvarare och potentiella angripare.

Betydelsen av sådana modeller betonades av Max Justicz, teknikchef och medgrundare för Charge Robotics, som använde en tidigare OpenAI-modell, GPT 5.6 Sol, för att upptäcka en allvarlig sårbarhet i Ubuntus ofta använda Linux-baserade operativsystem. Genom att instruera AI att hitta buggar med liknande allvar som ett tidigare åtgärdat problem upptäckte modellen en intrikat exploatering som skulle kunna ge hackare kontroll över servrar om den utnyttjades. Upptäckten rapporterades till Debianprojektet, som snabbt publicerade en åtgärd; det finns inga bevis för att sårbarheten utnyttjats i verkliga attacker.

OpenAIs nyligen lanserade modell är tillgänglig för toppdeltagare i företagets Daybreak-cybersäkerhetsprogram, särskilt inom Daybreak Red, som fokuserar på offensiv säkerhetsforskning och jakt på sårbarheter. OpenAI avslöjade att denna modell nyligen skannade Linux-kärnan och identifierade 948 potentiella sårbarheter, samtidigt som den upptäckte 81 nya sårbarheter i Firefox, vilket visar AI:ns förmåga att avsevärt förbättra säkerhetsgranskningar.

För att stärka branschens försvar har OpenAI tillkännagivit ett initiativ på en miljard dollar som stöder cybersäkerhetsexperter som arbetar med kritisk infrastruktur såsom elnät och vattensystem. Programmet har dock mött viss kritik angående begränsad tillgång till starka funktioner, vilket vissa experter anser begränsar försvararnas effektivitet jämfört med angripare som kan använda obegränsade öppenviktade AI-modeller.

Trots deltagande från tusentals cybersäkerhetsexperter är omfattningen liten jämfört med det stora antalet potentiella illvilliga aktörer. OpenAI erkänner denna obalans och satsar en betydande del av sina avancerade datorkapaciteter på pro bono-upptäckt och lagning av sårbarheter i öppen källkod. Kostnaden för dessa insatser, som den 1,2 miljoner dollar kostande Linux-bugjakten, är dock modest jämfört med andra storskaliga AI-projekt.

Framväxten av ChatGPT Cyber understryker det akuta behovet av cybersäkerhetsgemenskapen att snabbt utnyttja gränsöverskridande AI-teknik. Allteftersom AI-modeller utvecklas minskar riskfönstret, vilket gör koordinerade insatser för att identifiera och åtgärda sårbarheter alltmer angeläget för att skydda den digitala infrastruktur som utgör grunden för dagens samhälle.