Tehisintellekt

Meta tehisintellekti assistent Muse teatab kasutajate andmete segamisest ja privaatsuse rikkumisest, töötajad ütlevad

Tendela Briefing ·
3 vaatamist · 0 Kommentaarid
Meta’s AI agent Muse is mixing up conversations and could be exposing private data, report says | TechCrunch

Pilt: TechCrunch · Allikas

Meta AI-assistent Muse segab ekslikult vestlusi ja avaldab valesid isikuandmeid, nagu pangakonto andmed ja isiklikud sõnumid, tõstatades sisemisi privaatsusprobleeme.

Meta tehisintellekti agent Muse, mis käivitati septembris ja mida on kiiresti kasutusele võetud üle 10 miljoni allalaadimisega, on sattunud kriitika alla pärast töötajate raportite avaldumist olulistest privaatsusprobleemidest. Reutersi uurimus, mis põhineb ettevõtte sisepostitustel, näitab, et Muse segab erinevate kasutajakontode vestlusi ning avaldab kasutajale mittekuuluvaid isikuandmeid.

Töötajad teatasid juhtumitest, kus Muse kuvab seonduvaid andmeid, näiteks lastehoiutaotlusi, mida nad pole kunagi esitanud, soovimatuid karjäärisoovitusi, tooteid, mida nad ei ole tellinud, ning isegi teiste inimeste pangakonto saldosid. Ühes näites ilmus ootamatult sõnum ilmateate ja päevakõrguste vestluses, sisaldades konkreetseid kahe erineva finantsasutuse konto saldosid. Teine töötaja märkis, et Muse saatis meeldetuletuse sõnumi kohta tema õelt rakenduses Signal, mis on eraldi krüptitud sõnumirakendus, kuigi ligipääsu sellele rakendusele ei olnud antud.

Sellised juhtumid on õigustatult tekitanud tõsiseid muresid kasutajate privaatsuse ja andmeturbe osas ettevõtte sees. Meta pressiesindaja rõhutas, et töötajate testimine on oluline tootearenduse osa ning sisemise testimise versioonid sisaldavad sageli funktsioone ja käitumist, mis pole veel avalikkusele kättesaadavad. Testimisprotsess on mõeldud tagasiside saamiseks, et parandada turvalisust ja privaatsuskaitset enne laiemat levikut.

Kuigi Muse populaarsus kasvab, toovad need raportid esile AI-assistentide väljakutsed, kes suhtlevad tundlike isikuandmetega mitmetel platvormidel. Meta peab tagama, et Muse pakuks kasulikku abi, samal ajal kasutajate konfidentsiaalsust rikkumata ega andmeid kontode vahel segades. Ettevõte pole avaldanud tehnilisi põhjusi, mis andmesegamise põhjustavad, kuid tunnistab vajadust tugevamate kontrollimehhanismide järele.

Kuna AI-agendid nagu Muse integreeruvad igapäevasse suhtlusesse, rõhutavad sellised juhtumid rangete privaatsuskaitsete ja läbipaistvuse olulisust andmete kasutamisel, eriti arenduslike testimise faasides. Nii kasutajad kui töötajad jälgivad hoolikalt, kuidas Meta neid haavatavusi lahendab, et taastada usaldus oma AI assistendi privaatselt käsitsetavate andmete haldamise vastu.

Allikad ja originaaluudised

Allikas: TechCrunch
Loe originaali allikat ↗

Kommentaarid (0)

Kommentaare veel pole. Alusta arutelu.

Kirjuta kommentaar

Kommentaarid avaldatakse pärast modereerimist. Sinu nimi ja kommentaar on avalikult nähtavad. Konto