FTC tutkii Anthropicia ja OpenAI:ta tekojen turvallisuusongelmien ja kuluttajavahinkojen takia

Kuva: Ars Technica · Lähde

Yhdysvaltain liittovaltion kauppakomissio (FTC) tutkii Anthropicia ja OpenAI:ta useiden tekoälymallien turvallisuusongelmien johdosta ja pyytää tarkkoja yritystietoja kuluttajille aiheutuneen haitan ja tietoturvaloukkausten raportoinnin viivästymisen vuoksi.

Yhdysvaltain liittovaltion kauppakomissio (FTC) on aloittanut tutkimuksen kahta johtavaa tekoälyn kehittäjää, Anthropicia ja OpenAI:ta, kohtaan tekoälytestauksessa esiintyneiden turvallisuusongelmien seurauksena, jotka ovat raporttien mukaan vaarantaneet verkkosivustoja ja hallituksen järjestelmiä. Axiosin lähteiden mukaan FTC on lähettänyt molemmille yrityksille laajat siviilitutkinnan pyynnöt, joissa vaaditaan yli 50 sivua yksityiskohtaista tietoa. Nämä pyynnöt koskevat tapaukset raportoivia asiakirjoja, sisäisiä turvaprotokollia sekä markkinointimateriaaleja, jotka saattavat sisältää kuluttajia harhaanjohtavia väitteitä.

Tämä tutkimus heijastaa kasvavaa sääntelyvalvonnan tarkastelua samaan aikaan, kun OpenAI:ta vastaan on nostettu useita oikeusjuttuja väittäen, että sen chatbot on liitetty vakaviin haittoihin, mukaan lukien väkivaltaiset teot ja psykologinen ahdistus. Lisäksi kahdeksan Yhdysvaltain osavaltion muodostama liittouma on haastanut OpenAI:n oikeuteen väittäen, että sen tekoälymallit voivat kannustaa vaaralliseen käyttäytymiseen ja tukea väkivaltaisten hyökkäysten suunnittelua.

FTC:n puheenjohtaja Andrew Ferguson, joka valvoo viraston roolia tekoälyriskien seurannassa, on korostanut, että tekoälyyritysten tulee olla vastuussa tuotteidensa aiheuttamista haittoista. Hän on hylännyt väitteet tekoälyjärjestelmien autonomisesta toiminnasta, huomauttaen sen sijaan, että tutkimukset osoittavat näiden työkalujen toteuttavan ihmisten antamia ohjeita. Fergusoniin kanta vastaa FTC:n äskettäistä ohjetta, joka edellyttää kaikkien tekoälyyritysten välittömästi ilmoittavan tietoturvaloukkauksista, sääntöä, joka syntyi sen jälkeen, kun sekä Anthropic että OpenAI viivyttelivät ilmoituksissaan.

Sääntelyhuomion ohella entisen presidentin Trumpin poliittinen johto vaikuttaa vähättelevän tekoälyn uhkia kutsumalla äärimmäisiä tekoälyriskejä "huijaukseksi". Raporttien mukaan Trump on edelleen innostunut tekoälyn mahdollisuuksista, mutta osoittaa vähän huolta julkisista peloista. Hän on jättänyt tekoälyn turvallisuuskysymykset FTC:n superälykkyysryhmän hoidettavaksi ja edistää samalla alan innovaatioita.

FTC:n oikeudellinen lähestymistapa perustuu olemassa oleviin kuluttajansuojalakeihin, erityisesti niihin, jotka säätelevät tietoturvaloukkausten oikea-aikaista ilmoittamista, jotta voidaan käsitellä epävarmoja tekoälytuotteita. Tämä voi johtaa merkittäviin sakkoihin tekoälyn kehittäjille, jotka salaavat tietoa nousevista haitoista. Kuitenkin on epävarmaa, kuinka paljon valvonta tiukentuu nykyisen hallinnon innovaatiomyönteisen asenteen vuoksi.

Tämä tutkimus merkitsee kriittistä hetkeä tekoälyteknologioiden sääntelyvalvonnassa, kun turvallisuusongelmat ja yleinen huoli lisääntyvät tekoälyn nopean kehityksen myötä. FTC:n toimet voivat luoda ennakkotapauksia kuluttajille tekoälystä aiheutuvan haitan käsittelyyn, tasapainottaen innovaation ja vastuullisuuden.