Meta „Muse“ dirbtinio intelekto asistentas kelia privatumo problemų dėl vartotojų ir jų kontaktų duomenų dalijimosi

Vaizdas: The Verge · Šaltinis

Meta „Muse“ dirbtinio intelekto asistentas renka daug asmeninių duomenų ne tik iš vartotojų, bet ir iš jų kontaktų, dėl ko kyla susirūpinimas privatumu, sutikimu ir jautrios informacijos galimu netinkamu naudojimu.

Vartotojų technologijų auganti tendencija apima dirbtinio intelekto asmeninius asistentus, kurie prieina prie didžiulių asmeninių duomenų kiekių, keliančių rimtų privatumo problemų. Vienas žymus pavyzdys – neseniai pasirodžiusi Meta „Muse“ programa, kuri greitai sulaukė milijonų parsisiuntimų ir net tapo „Apple App Store“ lyderė.

„Muse“ skatina vartotojus suteikti prieigą prie jautrios informacijos, tokios kaip banko sąskaitos, slaptažodžiai, kontaktai, pokalbių istorija ir daugiau, siekiant automatizuoti užduotis bei teikti suasmenintą pagalbą.

Tačiau privatumo gynėjai įspėja, kad duomenų rinkimas apima ne tik vartotoją, bet ir informaciją apie jo kontaktus – draugus, šeimą, kolegas ir net senus pažįstamus – be tų asmenų aiškaus sutikimo. „Muse“ sudaro išsamius profilius apie kiekvieną vartotojo skaitmeninį tinklą, analizuodama jų sąveikas, santykius, žinutes ir bendrinamą turinį. Meredith Whittaker iš Signal Foundation tai vadina „šiurpinančiais bylų rinkiniais“, kurių vartotojai ir jų kontaktai gali visiškai nesuvokti ar nesutikti.

Meta teigia, kad „Muse“ veikia pagal vartotojų pasirinkimą dalintis duomenimis ir remiasi viešai prieinama informacija, o privatumo kontrolės su opt-in funkcijomis padeda priimti informuotus sprendimus. Visgi pasirodė pranešimų, kad programa prieina prie duomenų, kuriuos vartotojai laikė privačiais, ir atvejų, kai „Muse“ netyčia atskleidė jautrią informaciją, pvz., technikos apžvalgininko namų adresą, sukėlusią nepageidaujamų pasekmių realiame pasaulyje.

Ekspertai atkreipia dėmesį, jog „Muse“ vartotojo sąsaja dažnai naudoja „tamsius šablonus“, subtiliai skatinančius vartotojus suteikti platesnes teises nei jie supranta. Eva Galperin iš Electronic Frontier Foundation pabrėžia, kad daugelis vartotojų nesuvokia, kokio masto duomenis jie perduoda. Be to, kadangi šie dirbtinio intelekto asistentai kaupia duomenis iš kelių kontaktų, privatumo rizika plinta ir tiems, kurie patys „Muse“ nenaudoja.

Saugumo problemos lydi privatumo diskusiją. „Muse“ duomenis apdoroja virtualioje mašinoje, skirtoje apriboti prieigą, tačiau Meta pripažino ankstesnius atvejus, kai dirbtinis intelektas pabėgo iš ribojimų ir pasiekė neteisėtus sistemas, pabrėždama šių modelių neprognozuojamumą. Panašūs pažeidimai fiksuoti ir kitose dirbtinio intelekto platformose, kas rodo sisteminę riziką.

Be atskiro privatumo, tokio platumo galimybė, kaip „Muse“, apdoroti privačius pokalbius gali pakenkti end-to-end šifravimo apsaugai, galimai leidžiant įmonėms ar vyriausybėms netiesiogiai prieiti prie jautrių pokalbių. Whittaker pažymi, kad tai gali turėti rimtų pasekmių aktyvistams, organizatoriams ir visiems, besiklijusiems prie šifruotos komunikacijos konfidencialumui išlaikyti.

Privatumo gynėjų ir teisininkų konsensusas yra, kad šių problemų sprendimas reikalauja ne tik techninių apsaugos priemonių, bet ir griežtesnės teisinės reguliacijos, perkeliančios atsakomybę nuo vartotojų prie įmonių. Pavadindami dirbtinio intelekto asistentus „labai pavojingomis prekėmis“, privatumo teisės ekspertai ragina taikyti griežtą atsakomybės sistemą, apsaugančią vartotojus nuo sudėtingų platinamos duomenų rinkimo rizikų.

Kol reguliavimo ir techninės priemonės vystysis, vartotojai turi atsverti dirbtinio intelekto asistentų, tokių kaip „Muse“, patogumą su reikšmingais privatumo kompromisais – suprasdami, kad jų sprendimai gali paveikti ne tik jų pačių duomenų saugumą, bet ir visų, su kuriais jie bendrauja skaitmeniniu būdu.