Eksperci ostrzegają: przemysł AI wyjątkowo podatny na oszustwa wykorzystujące zaufanie ludzi

Image: TechCrunch · Source
Po głośnej sprawie honey trap z udziałem CEO Nvidia, eksperci ostrzegają, że niemal każdy w branży AI może paść ofiarą ataków inżynierii społecznej wykorzystujących relacje osobiste do uzyskania dostępu do poufnych informacji.
W miarę jak rozgrywają się skutki domniemanego skandalu honey trap z udziałem CEO Nvidia Jensena Huanga, eksperci ds. cyberbezpieczeństwa i wywiadu biją na alarm o szeroko rozpowszechnioną lukę w sektorze sztucznej inteligencji. Aaron Brown, były oficer CIA i założyciel Lumbra, powiedział TechCrunch, że szkolenia z zakresu kontrwywiadu praktycznie nie istnieją w świecie technologii, mimo że obecnie kluczowe tajemnice znajdują się w firmach rozwijających modele AI, chipy i infrastrukturę.
Tradycyjnie honey trapy – schematy mające na celu kompromitowanie celów poprzez relacje osobiste – kojarzone były z politykami lub personelem wojskowym zaznajomionym z zagrożeniami i szkolonym, by przeciwstawiać się takim metodom. Brown podkreślił jednak, że w dzisiejszym ekosystemie technologicznym CEO lub dyrektor to główny cel ze względu na dostęp do planów firmy, decyzji eksportowych, list klientów oraz kontrolę nad rozprowadzaniem technologii.
Jensen Huang został oskarżony o padnięcie ofiarą takiego schematu z Alice Huang, byłą dyrektorką powiązaną z singapurskim dostawcą usług chmurowych i domniemanymi chińskimi działaniami szpiegowskimi obejmującymi nielegalny transfer chipów Nvidia. Sprawa ta wzbudziła dyskusje na temat szerszej podatności Doliny Krzemowej, sięgającej poza CEO do każdego, kto ma dostęp do wrażliwych danych, w tym członków zarządu i asystentów wykonawczych.
Najstarszą i najskuteczniejszą inżynierią społeczną niekoniecznie jest romantyczne uwikłanie, ale raczej przyjaźń czy bliskość zawodowa. Atakujący często przenikają sieci, podszywając się pod inwestorów, klientów, rekruterów lub konsultantów, by budować zaufanie i zdobywać informacje wewnętrzne bez wzbudzania podejrzeń. Perry Carpenter z KnowBe4 zwrócił uwagę, że czynnik ludzki – więzi emocjonalne i poczucie komfortu – to ostatecznie to, co umożliwia te oszustwa, mimo postępów w technologii cyberbezpieczeństwa.
Samo AI paradoksalnie uczyniło honey trapping prostszym i tańszym. Złośliwi aktorzy mogą teraz tworzyć przekonujące fałszywe tożsamości, realistyczne profile społeczne, historie i nawet symulować rozmowy telefoniczne z wykorzystaniem AI, znacznie skracając czas i wysiłek potrzebny do planowania zaawansowanych ataków społecznych.
Eksperci doradzają zwiększoną czujność na nietypowe wzorce takie jak powtarzające się przypadkowe spotkania, nadmierna ciekawość dotycząca poufnych spraw, tajemniczość wokół spotkań oraz rosnące prośby o dane wrażliwe. Zalecają także utrzymywanie jasnych granic między sferą osobistą a zawodową oraz wspieranie kultury korporacyjnej, w której pracownicy czują się uprawnieni do kwestionowania nawet najwyższych władz. Brown zauważył, że paranoja nie jest produktywna, ale świadomość potencjalnego zagrożenia jest kluczowa.
W miarę jak branża AI coraz bardziej splata się z interesami bezpieczeństwa narodowego, powstające zagrożenie podkreśla potrzebę lepszych środków kontrwywiadowczych dostosowanych do specyficznych warunków sektora technologicznego. Podatność ludzi na manipulacje — ta potrzeba bycia zrozumianym i budzenia zaufania — pozostaje fundamentalnym wyzwaniem, którego sama technologia nie jest w stanie rozwiązać.
Źródła i oryginalne doniesienia
Read the original source ↗

Komentarze (0)
Nie ma jeszcze komentarzy.
Napisz komentarz
Komentarze publikujemy po moderacji. Nazwa i komentarz będą publiczne. Konto