Mākslīgais intelekts

Eksperti brīdina par mākslīgā intelekta nozari kā viegli ievainojamu „medus slazdu“ shēmām, kas izmanto cilvēku uzticību

Tendela Briefing ·
4 skatījumi · 0 Komentāri
Experts warn: nearly everyone in AI is susceptible to a honey trap scheme right now | TechCrunch

Attēls: TechCrunch · Avots

Pēc augsta līmeņa «medus slazda» lietas, kas saistīta ar Nvidia izpilddirektoru, eksperti brīdina, ka gandrīz visi mākslīgā intelekta jomā ir pakļauti šāda veida sociālās inženierijas uzbrukumiem, kuros personiskās attiecības tiek izmantotas, lai piekļūtu sensitīvai informācijai.

Notiekot notikumiem saistībā ar apsūdzībām par «medus slazdu» skandālu, kurā iesaistīts Nvidia izpilddirektors Jensens Huangs, kiberdrošības un izlūkdienestu eksperti pauž satraukumu par plašu ievainojamību mākslīgā intelekta nozarē. Lumbra dibinātājs un bijušais CIA darbinieks Aarons Brauns sacīja TechCrunch, ka pretizlūkošanas apmācības praktiski nav tehnoloģiju pasaulē, neskatoties uz to, ka kritiskas slepenas ziņas atrodas uzņēmumos, kas izstrādā AI modeļus, mikroshēmas un infrastruktūru.

Tradicionāli «medus slazdi» — shēmas, kas paredzētas mērķu kompromitēšanai, izmantojot personiskās attiecības — ir saistīti ar politiķiem vai militārajiem darbiniekiem, kuri ir informēti par riskiem un apmācīti pretoties šādiem uzbrukumiem. Tomēr Brauns uzsver, ka mūsdienu tehnoloģiju ekosistēmā izpilddirektors vai vadītājs ir galvenais mērķis, jo viņiem ir piekļuve uzņēmuma plāniem, eksporta lēmumiem, klientu sarakstiem un kontrolei pār tehnoloģiju izplatīšanu.

Dženens Huangs ir apsūdzēts kā šādas shēmas upuris kopā ar Alisu Huangu, bijušo vadītāju, kas saistīta ar Singapūras mākoņpakalpojumu sniedzēju un aizdomām par Ķīnas spiegošanu, tostarp Nvidia mikroshēmu nelikumīgu pārvietošanu. Šī lieta ir izraisījusi diskusijas par plašāku ievainojamību Silīcija ielejā, kas skar ne tikai izpilddirektorus, bet jebkuru, kam ir piekļuve sensitīvai informācijai, tostarp valdes locekļus un izpildpalīgus.

Vecākā un visefektīvākā sociālās inženierijas metode nav romantiskas attiecības, bet draudzība vai profesionālas tuvības veidošana. Uzbrucēji bieži iekļūst tīklos, tēlojot investorus, klientus, darbā piesaistītājus vai konsultantus, lai veidotu uzticību un iegūtu iekšēju informāciju, neizraisot aizdomas. KnowBe4 pārstāvis Perijs Kārpenters norāda, ka cilvēka faktors — emocionālās saites un komforta sajūta — ir tas, kas visbeidzot ļauj šādas maldināšanas, neskatoties uz kiberdrošības tehnoloģiju attīstību.

Trīs reizes ironiski, ka mākslīgais intelekts pats ir vienkāršojis un padarījis izdevīgāku «medus slazdu» veidošanu. Kibernoziedznieki tagad var radīt pārliecinošus viltotus personas profilus, reālistiskus sociālos profilus, fiktīvu pagātni un pat simulēt balss zvanus, izmantojot AI, būtiski samazinot laiku un pūles sarežģītu sociālo uzbrukumu plānošanai.

Eksperti iesaka palielināt modrību, pievēršot uzmanību neparastiem modeļiem, piemēram, nejaušām atkārtotām tikšanām, pārmērīgai ziņkārībai par konfidenciāliem jautājumiem, slepenībai ap tikšanās reizēm un pieaugošām pieprasījumu izteikšanām pēc sensitīvas informācijas. Viņi arī iesaka uzturēt skaidras robežas starp personisko un profesionālo dzīvi un veicināt uzņēmuma kultūru, kurā darbinieki jūtas pilnvaroti pat visaugstākajām amatpersonām uzdot jautājumus. Brauns atzīmēja, ka paranoja nav produktīva, taču apziņa, ka tu vari būt upuris, ir ļoti svarīga.

Kad mākslīgā intelekta nozare strauji saistās ar valsts drošības interesēm, šī jauniestājošā drauda problēma uzsver nepieciešamību ieviešot labākas pretizlūkošanas darbības, kas pielāgotas tehnoloģiju sektora īpašajai videi. Cilvēka pakļautība manipulācijām — vēlme tikt saprastam un uzticēties — paliek par fundamentālu izaicinājumu, ko tehnoloģija viena pati nespēj atrisināt.

Avoti un oriģinālziņas

Komentāri (0)

Komentāru vēl nav. Sāciet diskusiju.

Rakstīt komentāru

Komentāri tiek publicēti pēc moderēšanas. Jūsu vārds un komentārs būs redzami publiski. Konts