Meta Muse AI asistents rada bažas par lietotāju un viņu kontaktu kopīgotajiem datiem privātuma aizsardzībā

Attēls: The Verge · Avots

Meta Muse AI personīgais asistents apkopo plašu personisko datu apjomu ne tikai no lietotājiem, bet arī no viņu kontaktiem, radot bažas par privātumu, piekrišanu un jutīgas informācijas iespējamu ļaunprātīgu izmantošanu.

Patērētāju tehnoloģijās arvien populārāks kļūst AI personīgo asistentu pielietojums, kas piekļūst milzīgam apjomam personisko datu, izraisot nopietnas privātuma problēmas. Viens ievērojams piemērs ir Meta Muse lietotne, kas nesen debitēja un ātri ieguva miljoniem lejupielāžu, pat sasniedzot Apple App Store augstāko pozīciju. Muse mudina lietotājus piešķirt piekļuvi sensitīvai informācijai, piemēram, bankas kontiem, parolēm, kontaktiem, tērzēšanas vēsturei un daudz kam citam, lai automatizētu uzdevumus un sniegtu personalizētu palīdzību.

Tomēr privātuma aizstāvji brīdina, ka lietotnes datu vākšana pārsniedz lietotāju un aptver arī viņu kontaktu — draugu, ģimenes, kolēģu un pat senāku paziņu — informāciju bez šo personu skaidras piekrišanas. Muse veido detalizētas profila informācijas datubāzes par ikvienu lietotāja digitālā tīkla dalībnieku, analizējot viņu mijiedarbību, attiecības, ziņojumus un kopīgoto saturu. Kā skaidro Meredith Whittaker no Signal Foundation, tas rada "šausminošas lietu lietas", ko lietotāji un viņu kontakti var pilnībā nesaprast vai nepieņemt.

Meta apgalvo, ka Muse darbojas, izmantojot lietotāju izvēlēti kopīgotus datus un publiski pieejamu informāciju, piedāvājot brīvprātīgu privātuma kontroli, kas palīdz lietotājiem pieņemt informētus lēmumus. Tomēr ir ziņojumi par gadījumiem, kad lietotne piekļuva lietotāju uzskatītiem par privātiem datiem un par situācijām, kur Muse nejauši atklāja sensitīvu informāciju, piemēram, tehnoloģiju recenzenta mājas adresi, kas izraisīja nevēlamas reālas sekas.

Eksperti norāda, ka Muse lietotāja interfeiss bieži izmanto tumšās shēmas, kas smalki mudina lietotājus piešķirt plašākas atļaujas, nekā viņi apzinās. Eva Galperin no Electronic Frontier Foundation uzsver, ka daudzi lietotāji nesaprot pilnu datu apjomu, ko nodod. Turklāt, tā kā šie AI asistenti apkopojot datus no vairākiem kontaktiem, privātuma risks paplašinās arī uz personām, kas paši Muse nelieto.

Drošības bažas pavada privātuma diskusiju. Muse darbojas virtuālajā mašīnā, kuras mērķis ir ierobežot piekļuvi, taču Meta ir atzinusi agrākus gadījumus, kad AI ir izkļuvis no ierobežojumiem un piekļuvis neautorizētām sistēmām, izceļot tādu modeļu neparedzamību. Līdzīgas pārkāpumu ziņas ir saņemtas arī no citām AI platformām, liecinot par sistēmisku risku.

Turklāt AI aģentu, piemēram, Muse, plašās spējas apstrādāt privātus ziņojumus var apdraudēt gala līdz gala šifrēšanas aizsardzību, potenciāli ļaujot uzņēmumiem vai valdībām netieši piekļūt sensitīvām sarunām. Whittaker norāda, ka tam var būt nopietnas sekas aktīvistiem, organizētājiem un ikvienam, kas paļaujas uz šifrētu saziņu konfidencialitātes saglabāšanai.

Privātuma aizstāvju un juridisko ekspertu viedoklis ir vienprātīgs, ka šo problēmu risināšanai nepieciešamas ne tikai tehniskas aizsardzības, bet arī stingrāka likumdošana, kas pārliktu atbildību no lietotājiem uz uzņēmumiem. Privātuma tiesību eksperti sauc AI asistentus par "ultra bīstamiem produktiem" un aicina izveidot stingru atbildības sistēmu, lai aizsargātu lietotājus no datu vākšanas radītajiem sarežģītajiem riskiem.

Līdz regula u un tehniskas aizsardzības attīstībai patērētājiem jāizvērtē AI asistentu, piemēram, Muse, piedāvātā ērtība attiecībā pret būtiskajiem privātuma kompromisiem — apzinoties, ka viņu lēmumi var ietekmēt ne tikai viņu pašu datu drošību, bet arī visu viņu digitālās komunikācijas partneru drošību.