OpenAI uruchamia model AI skupiony na cyberbezpieczeństwie w obliczu rosnących zagrożeń cyfrowych

Image: TechCrunch · Source

OpenAI wprowadza ChatGPT Cyber, nowy model AI zaprojektowany do wzmacniania obrony cyberbezpieczeństwa poprzez wykrywanie i naprawianie luk w oprogramowaniu, odpowiadając na rosnące obawy dotyczące hakowania wspieranego przez AI.

OpenAI zaprezentowało specjalistyczny model AI do cyberbezpieczeństwa o nazwie ChatGPT Cyber, przeznaczony do identyfikowania i naprawiania luk w oprogramowaniu w celu ochrony krytycznej infrastruktury cyfrowej. Premiera następuje w momencie, gdy narzędzia oparte na sztucznej inteligencji wspierają coraz częściej zarówno obrońców cyberbezpieczeństwa, jak i potencjalnych atakujących.

Znaczenie takich modeli podkreślił Max Justicz, CTO i współzałożyciel Charge Robotics, który wykorzystał wcześniejszy model OpenAI, GPT 5.6 Sol, do odkrycia poważnej luki w powszechnie używanym systemie operacyjnym Linux Ubuntu. Instrukując AI do znalezienia błędów o podobnej wadze jak wcześniej załatana luka, model odkrył skomplikowany exploit, który mógłby umożliwić hakerom przejęcie kontroli nad serwerami w przypadku wykorzystania. To odkrycie zostało zgłoszone do Debian Project, który niezwłocznie wypuścił poprawkę; nie ma dowodów na to, by luka była wykorzystywana w środowisku produkcyjnym.

Najnowszy model OpenAI jest dostępny dla uczestników najwyższej rangi programu Daybreak firmy, szczególnie w ramach Daybreak Red, który koncentruje się na ofensywnych badaniach bezpieczeństwa i poszukiwaniu luk. OpenAI ujawniło, że model niedawno przeskanował jądro Linuxa, wykrywając 948 potencjalnych luk, oraz odkrył 81 nowych podatności w przeglądarce Firefox, co świadczy o zdolności AI do znacznego usprawnienia audytów bezpieczeństwa.

Aby wzmocnić wysiłki obronne w branży, OpenAI ogłosiło inicjatywę wartą 1 miliard dolarów wspierającą specjalistów ds. cyberbezpieczeństwa pracujących nad krytycznymi sektorami infrastruktury, takimi jak sieci elektryczne i systemy wodne. Program spotkał się jednak z krytyką dotyczącą ograniczonego dostępu do zaawansowanych funkcji, co według niektórych ekspertów ogranicza skuteczność obrońców w porównaniu do atakujących, którzy mogliby korzystać z nieograniczonych modeli AI o otwartych wagach.

Mimo udziału tysięcy ekspertów ds. cyberbezpieczeństwa, skala tych działań jest niewielka w porównaniu z ogromną liczbą potencjalnych złośliwych aktorów. OpenAI przyznaje tę nierównowagę i poświęca sporą część swoich zaawansowanych zasobów obliczeniowych na pro bono poszukiwanie i łatanie luk w otwartoźródłowych kodach. Koszty tych działań, np. polowanie na błędy w Linuxie, wynoszą 1,2 miliona dolarów, co jest stosunkowo niewielkie w porównaniu z innymi dużymi projektami AI.

Pojawienie się ChatGPT Cyber podkreśla pilną potrzebę, aby społeczność cyberbezpieczeństwa jak najszybciej wykorzystała najnowsze technologie AI. Wraz z postępem modeli AI okno ryzyka się zawęża, co czyni skoordynowane działania w celu identyfikacji i naprawy luk coraz pilniejszymi, aby zabezpieczyć cyfrową infrastrukturę stanowiącą podstawę współczesnego społeczeństwa.