Postępy w AI wywołują nową erę wyzwań w cyberbezpieczeństwie, ostrzega ekspert

Image: The Verge · Source

Alex Stamos, dyrektor ds. bezpieczeństwa w Cognition, wyjaśnia, jak narzędzia hakerskie oparte na AI prowadzą do bezprecedensowej fali cyberataków oraz zmieniają ekonomię cyberbezpieczeństwa, przewidując trudny okres przejściowy, określany jako "ciemne czasy."

Cyberbezpieczeństwo przechodzi głęboką transformację z powodu technik hakowania wzbogaconych AI, według Alexa Stamosa, dyrektora ds. bezpieczeństwa w Cognition i doświadczonego eksperta w dziedzinie cyberbezpieczeństwa. W szczegółowej rozmowie z The Verge, Stamos podkreślił, jak narzędzia AI umożliwiły atakującym automatyzację całego „łańcucha zabójczego” cyberataków, pozwalając na znajdowanie i wykorzystywanie luk w oprogramowaniu w czasie rzeczywistym na niespotykaną dotąd skalę. Ta innowacja drastycznie zwiększa szybkość, zasięg i wyrafinowanie cyberataków przeciwko firmom na całym świecie.

Stamos opisuje obecne środowisko cyberbezpieczeństwa jako przypominające wczesne, chaotyczne dni internetu w latach 90., kiedy protokoły bezpieczeństwa online były niedojrzałe i łatwo je było obejść. Dziś jednak ten scenariusz „Dziki Zachód” jest znacznie wzmocniony przez narzędzia zasilane AI, które są obecnie publicznie dostępne, takie jak system open-source ARTEX powiązany z chińskimi grupami hakerskimi. Narzędzia te znacznie obniżają próg umiejętności, umożliwiając szerszemu gronu złośliwych aktorów przeprowadzanie udanych naruszeń bezpieczeństwa wobec firm wartymi miliardy dolarów. Na przykład ostatnie ataki naruszyły platformy świadczące usługi AI i wywołały kaskadowe naruszenia bezpieczeństwa, mające wpływ na tysiące firm.

Model ekonomiczny cyberataków także ulega zmianie. Wcześniej ataki przeprowadzała ograniczona liczba wysoko wykwalifikowanych hakerów i zespołów sponsorowanych przez państwa, z uporządkowaną hierarchią narzędzi i operatorów. Teraz AI demokratyzuje zaawansowane możliwości hakowania, czyniąc wyrafinowane wykorzystania luk przystępnymi cenowo i skalowalnymi dla mniejszych grup i pojedynczych napastników. Zmianę tę potęgują technologie takie jak Bitcoin, które ułatwiają anonimowe zarabianie na cyberprzestępczości.

Stamos identyfikuje główne zagrożenia płynące z różnych źródeł: grup z Korei Północnej koncentrujących się na kradzieży kryptowalut oraz chińskiego "przemysłu domowego" kontraktorów włamujących się do firm, by odsprzedawać informacje. Tymczasem strona obronna pozostaje wyzwaniem z powodu wysokich kosztów operacyjnych. Obecne modele AI stosowane w operacjach obronnych są kosztowne w eksploatacji w porównaniu z niemal zerowymi kosztami marginalnymi dla atakujących korzystających z powszechnie dostępnego sprzętu i otwartych modeli.

Aby przeciwdziałać tej nierównowadze, Stamos opowiada się za innowacjami zmniejszającymi koszty obrony, w tym za wykorzystaniem lżejszych modeli AI do przetwarzania ogromnych dzienników bezpieczeństwa i tylko eskalacją podejrzanych działań do bardziej złożonych systemów. Zaleca także fundamentalne przesunięcie z samej naprawy błędów na przebudowę i przepisanie dziedzicznego oprogramowania, zwłaszcza przestarzałych baz kodu, które zawierają rozległe podatności. Na przykład przepisanie dużych krytycznych systemów, takich jak jądro Linux, w bezpieczniejszych językach programowania jak Rust może przynieść długoterminowe korzyści dla bezpieczeństwa.

Pomimo przytłaczających wyzwań, Stamos jest ostrożnie optymistyczny. Przewiduje nieunikniony okres „ciemnych czasów”, podczas którego ataki się nasilą, a obrona będzie walczyć, ale wierzy, że pojawi się nowa era poprawionego bezpieczeństwa. W dłuższej perspektywie spodziewa się, że oprogramowanie medianowe będzie generowane przez AI, wykorzystując bezpieczne języki i poddawane intensywnym testom, co zmniejszy podatności.

Stamos podkreśla, że branża cyberbezpieczeństwa musi szybko przystosować się do tej rzeczywistości napędzanej AI, skupiając się na efektywności kosztowej operacji i całościowych strategiach obronnych wykraczających poza naprawę błędów. Stawki są wysokie, ponieważ skala i powaga cyberataków zasilanych AI rosną, wpływając na globalną infrastrukturę technologiczną i operacje biznesowe.