Tehisintellekt

Eksperdid hoiavad tehisintellekti sektori haavatavusest ‘‘honey trap’’ skeemide ees, mis kasutavad inimeste usaldust ära

Tendela Briefing ·
4 vaatamist · 0 Kommentaarid
Experts warn: nearly everyone in AI is susceptible to a honey trap scheme right now | TechCrunch

Pilt: TechCrunch · Allikas

Pärast Nvidia tegevjuhi kaasamist kõrgetasemelisse ‘‘honey trap’’ juhtumisse hoiavad eksperdid, et peaaegu kõik tehisintellekti valdkonnas on haavatavad sellistele sotsiaalmanipulatsiooni rünnakutele, kus isiklikke suhteid ära kasutades püütakse ligi pääseda tundlikule infole.

Nvidia tegevjuhi Jenseni Huangiga seotud oletatava ‘‘honey trap’’ skandaali tagajärgede lahtirullimisel tõstavad küberjulgeoleku ja luureeksperdid alarmi tehisintellekti sektori ulatusliku haavatavuse osas. Aaron Brown, endine CIA ametnik ja Lumbra asutaja, ütles TechCrunchile, et vastuluure koolitus on tehnoloogiamaailmas peaaegu olematu, kuigi kriitilised saladused asuvad nüüd ettevõtetes, mis arendavad AI mudeleid, kiipe ja infrastruktuuri.

Traditsiooniliselt seostati ‘‘honey trap’’ skeeme—meetodeid, mis kahjustavad sihtmärke isiklike suhete kaudu—poliitikute või sõjaväelastega, kes olid riskidest teadlikud ja koolitatud selliseid lähenemisi tõrjuma. Kuid Brown rõhutas, et tänases tehnoloogilise ökosüsteemi kontekstis on tegevjuht või juhtivametnik peamine sihtmärk, kuna neil on ligipääs ettevõtte arenguplaanidele, ekspordotsustele, kliendinimekirjadele ja nad kontrollivad tehnoloogia levitamist.

Jensen Huang on süüdistatud sellise skeemi ohvriks langemises koos Alice Huangiga, endise juhiga, kes oli seotud Singapuri pilveteenuse pakkujaga ja väidetava Hiina luuretegevusega, mis hõlmas Nvidia kiipide ebaseaduslikku ülekandmist. See juhtum on esile toonud laialdasema haavatavuse Silikooniorus, mis ulatub tegevjuhtidest kõikjale, kellel on juurdepääs tundlikule infole, sealhulgas juhatuse liikmeteni ja tegevassistentideni.

Kõige vanem ja efektiivsem sotsiaalmanipulatsioon pole tingimata romantiline suhe, vaid pigem sõprus või professionaalne lähedus. Ründajad tungivad sageli võrkudesse investorite, klientide, värbajate või konsultantidena, et ehitada usaldust ja hankida siseteavet ilma kahtlusi äratamata. KnowBe4 esindaja Perry Carpenter märkis, et inimfaktor—emotsionaalsed sidemed ja mugavustunne—on see, mis lõpuks võimaldab neid petuskeeme, vaatamata küberjulgeoleku tehnoloogia arengule.

Paraku on tehisintellekt ise teinud ‘‘honey trap’’ skeemid lihtsamaks ja kulutõhusamaks. Kurjategijad suudavad nüüd tehisintellekti abil luua veenvaid võlts isikuid, realistlikke sotsiaalseid profiile, taustalugu ja isegi imiteerida telefonikõnesid, vähendades oluliselt keeruliste sotsiaalrünnakute planeerimiseks vajalikku aega ja pingutust.

Eksperdid soovitavad tõsta valvsust ebatavaliste mustrite suhtes, nagu juhuslike korduvate kohtumiste ilmnemine, liigne uudishimu konfidentsiaalsete teemade vastu, kohtumiste salapära ja tundliku info taotluste kasvamine. Samuti soovitatakse hoida isiklike ja ärisuhete vahel selgeid piire ning edendada ettevõttesisest kultuuri, kus töötajad tunnevad end volitatuna ka kõrgeimale juhtkonnale küsimusi esitada. Brown märkis, et paranoiline suhtumine pole produktiivne, kuid teadlikkus võimalikust sihtmärgi rollist on ülimalt oluline.

Kuna tehisintellekti valdkond muutub kiiresti riikliku julgeoleku huvidega põimunuks, rõhutab see tekkiv oht vajadust paremate vastuluure meetmete järele, mis on kohandatud tehnoloogiasektori ainulaadsetesse tingimustesse. Inimese haavatavus manipulatsioonile—soov saada mõistetuks ja usaldatuks—jääb fundamentaalseks väljakutseks, mida tehnoloogia üksi ei suuda lahendada.

Allikad ja originaaluudised

Allikas: TechCrunch
Loe originaali allikat ↗

Kommentaarid (0)

Kommentaare veel pole. Alusta arutelu.

Kirjuta kommentaar

Kommentaarid avaldatakse pärast modereerimist. Sinu nimi ja kommentaar on avalikult nähtavad. Konto