„Meta“ sustabdė „Muse AI“ pokalbių dalijimąsi po viešo URL atskleidimo

Vaizdas: Meta pauses Muse sharing after researchers find AI chats on the web · Šaltinis

„Meta“ laikinai sustabdė „Muse AI“ asistento pokalbių dalijimosi funkciją po to, kai saugumo tyrėjai rado tūkstančius viešai prieinamų bendrinamų pokalbių nuorodų DNS įrašuose, keliančių privatumo problemas.

„Meta“ sustabdė savo AI asistento „Muse“ pokalbių dalijimosi funkciją po to, kai saugumo kompanija aptiko, kad daugelis bendrinamų pokalbių nuorodų buvo viešai pasiekiamos internete. Saugumo tyrimų bendrovė Claroc pranešė radusi daugiau nei 6 800 su „Muse“ pokalbiais susijusių URL, ištirdama viešuosius DNS įrašus, kurie veikia kaip interneto srauto katalogai. Šis atradimas parodė, kad bendrinamos „Muse“ pokalbių puslapiai galėjo būti lengvai surasti ir pasiekti bet kieno, turinčio nuorodą, arba atstatant URL iš DNS prieglobos vardų.

Dalijimosi funkcija leidžia „Muse“ vartotojams generuoti nuorodas į jų dirbtinio intelekto pokalbių temas, kad kiti galėtų jas peržiūrėti. Tačiau Claroc paaiškino, kad „Meta“ dizainas numato pokalbių pavadinimus ir unikalius ID tiesiogiai internetiniuose adresuose, todėl paprastai galima nuspėti arba atsekti URL pagal viešai prieinamą DNS informaciją. Pavyzdžiui, DNS vardas dažnai atskleidė turinio pobūdį dar prieš atidarant puslapį, palengvindamas konfidencialios informacijos gavimą.

Tarp atskleistos informacijos buvo jautrūs duomenys, tokie kaip rinkodaros įmonės pajamų ataskaitos, smulkaus verslo savininko paskolos paraiškos duomenys, visų metų darbuotojų darbo kalendorius ir pastabos iš darbo kandidato interviu su AI tyrimų laboratorija. Šie radiniai pabrėžia galimas privatumo rizikas, kai AI pokalbių dalijimosi funkcijos neturi stiprių prieigos kontrolės mechanizmų.

Muse atstovė Tracy Clayton elektroniniu paštu „The Verge“ sakė, kad „Meta“ sustabdė šią dalijimosi funkciją, kad peržiūrėtų problemą ir apsvarstytų pakeitimus, kurie užkirstų kelią lengvam bendrinamų nuorodų radimui. Ankstesniais atvejais buvo panašių susirūpinimų dėl AI pokalbių dalijimosi funkcijų kitų tiekėjų, tokių kaip „OpenAI“ „ChatGPT“, „Anthropic“ „Claude“ ir „xAI“ „Grok“, kai pokalbiai netyčia pasirodė viešuosiuose paieškos rezultatuose.

„Meta“ laikinai išjungus „Muse“ dalijimosi nuorodas pabrėžiama, kaip sunku suderinti vartotojų patogumą su duomenų privatumu ir saugumu AI asistentuose. Kaip „Meta“ pakeis funkciją, siekdama apsaugoti vartotojų informaciją, dar laukia pamatyti, tačiau šis incidentas pabrėžia atsargumo svarbą kuriant tokias sistemas, kad bendrinamas AI sugeneruotas turinys gerbtų konfidencialumą ir atsispirtų neleistinai prieigai per viešuosius interneto įrašus.