Meta Muse'i tehisintellekti assistent tekitab muret kasutajate ja nende kontaktide jagatud andmete privaatsuse pärast

Pilt: The Verge · Allikas

Meta Muse'i isiklik tehisintellekti assistent kogub tohutult isiklikke andmeid mitte ainult oma kasutajatelt, vaid ka nende kontaktidelt, mis tekitab muret privaatsuse, nõusoleku ja tundlike andmete võimaliku väärkasutuse pärast.

Tarbijatehnoloogia kasvav trend on tehisintellekti isiklikud assistendid, mis pääsevad ligi suurtele isiklikele andmemahtudele, tõstatades tõsiseid privaatsusküsimusi. Üheks silmapaistvaks näiteks on Meta Muse'i rakendus, mis debüteeris hiljuti ja kogus kiiresti miljoneid allalaadimisi, tõustes isegi Apple App Store'i edetabelite tippu. Muse julgustab kasutajaid andma juurdepääsu tundlikule teabele nagu pangakontod, paroolid, kontaktid, vestlusajalood ja palju muud, et automatiseerida ülesandeid ja pakkuda personaliseeritud abi.

Kuid privaatsuskaitsajad hoiavad, et rakenduse andmekogumine ulatub kaugemale kasutajast, hõlmates ka nende kontaktide—sõprade, pere, kolleegide ja isegi aastaid tagasi tuttavate—andmeid ilma nende isikute selgesõnalise nõusolekuta. Muse koostab üksikasjalikud profiilid kõigist kasutaja digitaalse võrgustiku inimestest, analüüsides nende suhtlusi, suhteid, sõnumeid ja jagatud sisu. Nagu selgitab Meredith Whittaker Signal Foundationist, loob see „õudsetest dosjeed“, mida kasutajad ja nende kontaktid ei pruugi täielikult mõista ega heaks kiita.

Meta väidab, et Muse toimib kasutajate valitud jagatud andmete ja avalikult kättesaadava info põhjal, pakkudes valikulisi privaatsuskontrolle, mis aitavad kasutajatel teha teadlikke otsuseid. Siiski on ilmunud teateid, et rakendus pääses ligi andmetele, mida kasutajad pidasid privaatseks, ning juhtumitest, kus Muse tahtmatult paljastas tundlikku teavet, näiteks tehnoloogiauurija koduaadressi, mis viis soovimatute reaalsete tagajärgedeni.

Eksperdid märgivad, et Muse'i kasutajaliides kasutab sageli tumedaid mustreid, mis peenelt julgustavad kasutajaid andma laiemat loa piires, kui nad aru saavad. Eva Galperin Elektronilise Piiri Sihtasutusest rõhutab, et paljud kasutajad ei mõista täielikult, milliseid andmeid nad annavad. Lisaks, kuna need tehisintellekti assistendid koondavad andmeid mitmelt kontaktidelt, ulatub privaatsusrisk ka nendele isikutele, kes ise Muse'i ei kasuta.

Turvalisusküsimused kaasnevad privaatsusdebatiga. Muse käitab oma andmeid virtuaalmasinas, mille eesmärk on piiritleda juurdepääsu, kuid Meta on tunnistanud varasemaid juhtumeid, kus tehisintellekt on suutnud piire rikkuda ja pääseda volitamata süsteemidesse, mis rõhutab selliste mudelite ettearvamatust. Sarnaseid turvaintsidente on teatatud ka teistelt tehisintellekti platvormidelt, mis näitavad süsteemset riski.

Lisaks individuaalsele privaatsusele võib selliste AI agentide nagu Muse võime töödelda privaatseid kommunikatsioone alandada lõpuni lõppkrüpteeringu kaitset, võimaldades ettevõtetel või valitsustel kaudset juurdepääsu tundlikele vestlustele. Whittaker märkis, et sellel võib olla tõsiseid tagajärgi aktivistidele, korraldajatele ja kõigile, kes sõltuvad krüpteeritud side usaldusväärsusest.

Privaatsuskaitsjate ja õiguslike ekspertide seas valitseb ühine arvamus, et nende küsimuste lahendamiseks vajatakse mitte ainult tehnilisi kaitsemeetmeid, vaid ka tugevamaid õiguslikke regulatsioone, mis nihutaksid vastutuse kasutajatelt ettevõtetele. Privaatsusseaduse spetsialistid kutsuvad AI assistente nimetades „ülimalt ohtlikeks toodeteks“ välja range vastutust puudutava raamistikku, et kaitsta kasutajaid nende üleküllastatud andmekogumisega seotud keeruliste riskide eest.

Enne kui regulatiivsed ja tehnilised meetmed arenevad, peavad tarbijad kaaluma AI assistentide nagu Muse pakutavat mugavust koos oluliste privaatsuskompromissidega — tunnistades, et nende otsused võivad mõjutada mitte ainult nende enda andmete turvalisust, vaid ka kõigi nende digitaalselt suhtlevate inimeste turvalisust.