Meta teko teko AI-avustaja Muse sekoitti käyttäjätietoja ja rikkoi yksityisyyttä, työntekijät kertovat

Kuva: TechCrunch · Lähde
Metan teko AI-avustaja Muse yhdistää vahingossa keskusteluja ja paljastaa virheellistä yksityistä tietoa, kuten pankkitietoja ja henkilökohtaisia viestejä, mikä on herättänyt sisäisiä yksityisyysongelmia.
Metan tekoälyagentti Muse, joka lanseerattiin syyskuussa ja saavutti nopeasti yli 10 miljoonaa latausta, on joutunut tarkastelun kohteeksi työntekijöiden raportoitua merkittävistä yksityisyysongelmista. Reutersin tutkimuksen mukaan, joka perustui yrityksen sisäisiin julkaisuihin, Muse on havaittu sekoittavan keskusteluja eri käyttäjätilien välillä ja paljastavan yksityisiä tietoja, jotka eivät kuulu kyseiselle käyttäjälle.
Työntekijät raportoivat tapauksista, joissa Muse on tuonut esiin epäolennaista tietoa, kuten lastenhoitopyyntöjä, joita he eivät ole koskaan tehneet, ei-toivottuja uraneuvoja, tuotteiden tilauksia, joita he eivät ole tehneet, ja jopa muiden henkilöiden pankkitilin saldotietoja. Yhdessä esimerkissä odottamaton viesti keskustelussa säästä ja vuorovedestä sisälsi erityisiä pankkitilin saldojen päivityksiä kahdesta eri finanssilaitoksesta. Toinen työntekijä mainitsi, että Muse muistutti viestistä, joka oli hänen siskoltaan Signalissa, erillisessä salatussa viestisovelluksessa, vaikka käyttöoikeuksia kyseiseen sovellukseen ei ollut annettu.
Tällaiset tapaukset ovat luonnollisesti herättäneet vakavia huolia käyttäjien yksityisyydestä ja tietoturvasta yrityksessä. Metan edustaja vastasi korostamalla, että työntekijöiden testaaminen on olennainen osa tuotekehitystä ja että sisäisesti testatuissa Muse-versioissa on usein ominaisuuksia ja käyttäytymismalleja, joita yleisöllä ei vielä ole saatavilla. Testausprosessi on tarkoitettu keräämään palautetta turvallisuuden ja yksityisyyden parantamiseksi ennen laajempaa julkaisua.
Vaikka Muse jatkaa suosiotaan, nämä raportit tuovat esiin tekoälyassistenttien käyttöönoton haasteita, kun ne käsittelevät arkaluontoista henkilökohtaista tietoa useilla alustoilla. Meta kohtaa tehtävän varmistaa, että Muse voi tarjota hyödyllistä apua vaarantamatta käyttäjien luottamuksellisuutta tai sekoittamatta tietoja eri tileillä. Yritys ei ole kertonut näiden tietosekoilujen teknisiä syitä, mutta tunnustaa tarvetta parantaa valvontaa.
Kun tekoälyagentit kuten Muse integroituvat jokapäiväiseen viestintään, tällaiset tapaukset korostavat tiukkojen yksityisyydensuojaa koskevien turvatoimien ja tietojen käytön läpinäkyvyyden merkitystä erityisesti kehitys- ja testausvaiheissa. Sekä käyttäjät että työntekijät seuraavat tarkasti, miten Meta vastaa näihin haavoittuvuuksiin palauttaakseen luottamuksen tekoälyavustajansa yksityistietojen käsittelyyn.
Lähteet ja alkuperäiset raportit
Lue alkuperäinen lähde ↗

Kommentit (0)
Ei vielä kommentteja. Aloita keskustelu.
Kirjoita kommentti
Kommentit julkaistaan moderoinnin jälkeen. Nimesi ja kommenttisi näkyvät julkisesti. Tili