Meta mākslīgā intelekta asistents Muse ziņo par lietotāju datu sajaukšanu un privātuma pārkāpumiem, saka darbinieki

Attēls: TechCrunch · Avots
Meta AI asistents Muse kļūdaini apvieno sarunas un atklāj nepareizu privāto informāciju, piemēram, bankas datus un personiskas ziņas, radot iekšējās privātuma bažas.
Meta mākslīgā intelekta aģents Muse, kas tika palaists septembrī un ātri iegūst popularitāti ar vairāk nekā 10 miljoniem lejupielāžu, ir nonācis uzmanības lokā pēc darbinieku ziņojumiem par būtiskām privātuma problēmām. Reuters izmeklēšana, kas balstās uz uzņēmuma iekšējiem ierakstiem, atklāj, ka Muse sajauc sarunas starp dažādiem lietotāju kontiem un atklāj privātus datus, kas nepieder konkrētajam lietotājam.
Darbinieki ziņoja par gadījumiem, kad Muse parādīja nesaistītu informāciju, tostarp bērnu aprūpes pieprasījumus, kurus viņi nekad nav iesnieguši, nevēlamus karjeras ieteikumus, pasūtītus produktus, kurus viņi nav veikuši, un pat citu personu bankas kontu atlikumus. Vienā piemēram negaidīta ziņa par laikapstākļiem un paisumiem iekļāva konkrētus bankas konta atlikumus divos dažādos finanšu iestādēs. Vēl viens darbinieks norādīja, ka Muse nosūtīja atgādinājumu par ziņojumu no viņas māsas lietotnē Signal, kas ir atsevišķa šifrēta ziņapmaiņas lietotne, lai gan pieeja šai lietotnei nebija atļauta.
Šādi gadījumi saprotami izraisījuši nopietnas bažas par lietotāju privātumu un datu drošību uzņēmuma iekšienē. Meta pārstāvis atbildēja, uzsverot darbinieku testēšanas lomu produktu izstrādē un apgalvojot, ka iekšēji testētās Muse versijas bieži satur funkcijas un uzvedību, kas vēl nav pieejama plašai publikai. Testēšanas process ir paredzēts, lai iegūtu atsauksmes drošības un privātuma uzlabošanai pirms plašākas izlaišanas.
Kamēr Muse turpina kļūt populārāks, šie ziņojumi ilustrē izaicinājumus ieviest AI asistentus, kas mijiedarbojas ar sensitīvu personisko informāciju vairākās platformās. Meta uzdevums ir nodrošināt, lai Muse sniedz noderīgu palīdzību, nekaitējot lietotāju konfidencialitātei un nesajaucot datus starp kontiem. Uzņēmums nav atklājis konkrētus tehniskos iemeslus šīm datu sajaukšanas problēmām, taču atzīst, ka nepieciešami papildu kontroles mehānismi.
Tā kā AI aģenti kā Muse kļūst par daļu no ikdienas saziņas, šādi incidenti uzsver stingru privātuma aizsardzību un datu izmantošanas caurspīdīguma nozīmīgumu, it īpaši attīstības un testēšanas posmos. Gan lietotāji, gan darbinieki uzmanīgi vēros, kā Meta risina šīs ievainojamības, lai atjaunotu uzticību AI asistenta privāto datu apstrādē.
Avoti un oriģinālziņas
Lasīt oriģinālo avotu ↗

Komentāri (0)
Komentāru vēl nav. Sāciet diskusiju.
Rakstīt komentāru
Komentāri tiek publicēti pēc moderēšanas. Jūsu vārds un komentārs būs redzami publiski. Konts