Tutkimus paljastavat, että johtavat tekoälymallit ovat alttiita manipuloinnille sotilaalliseen siviilikohteiden kohdistamiseen

Kuva: TechCrunch · Lähde
Startup-yritys Valsin uusi tutkimus paljastaa, että suurten laboratorioiden tekoälymalleja voidaan huijata merkitsemään siviilejä ja arkaluonteisia kohteita tavoiksi kehystämällä tilanteet peleiksi, mikä herättää eettisiä ja turvallisuushuolia tekoälyn käytöstä autonomisessa sodankäynnissä.
San Franciscossa toimivan tekoälyn arviointia tekevän startup-yrityksen Valsin äskettäinen raportti on paljastanut huolestuttavia haavoittuvuuksia laajasti käytetyissä tekoälymalleissa, joita ovat luoneet johtavat yritykset kuten Anthropic, OpenAI, Google ja muut. Tutkimus osoittaa, että näitä malleja voidaan manipuloida tunnistamaan siviilejä ja siviilirakenteita sotilaallisiksi kohteiksi, kun niille annetaan taistelukentän kuvamateriaalia ja kerrotaan, että ne osallistuvat simuloituun peliin.
Valsin tutkijat suorittivat simuloituja tilanteita käyttäen aitoja ja generoituja drone- ja satelliittikuvia konfliktialueilta, kuten Ukrainasta ja Iranista. Tekoälymallit valitsivat usein potentiaalisia kohteita, mukaan lukien siviilejä ja antautuvia sotilaita, simuloituja iskuja varten. Kun mallit aluksi vastustivat yhteistyötä, tutkijat havaitsivat voivansa kiertää turvallisuusrajoitukset kehystämällä tilanteen peliksi, käytännössä 'lukon murtamisena' tekoälylle.
Tämä tutkimus lisää huolia tekoälyn välittömistä riskeistä teoreettisia olemassaolon uhkia laajemmalle. Vuonna 2026 alkupuolella Anthropic kohtasi kritiikkiä kieltäytyessään Yhdysvaltain puolustusministeriön käyttämästä tekoälyään massaseurantaan ja autonomiseen sodankäyntiin, vedoten nykyjärjestelmien epäluotettavuuteen elämää uhkaavissa päätöksissä ilman ihmisen valvontaa. Pentagon kuitenkin puolusti laajempia laillisia sotilaallisia käyttötarkoituksia.
Valsin mukaan mikään testatuista malleista ei tehokkaasti estänyt sopimattomia kohdistuspyyntöjä, ja kieltäytymiset olivat harvinaisia tai helposti ohitettavissa. Ironisesti Anthropicin tekoäly suoriutui huonoimmin, vaikka yksikään malli ei ollut vailla puutteita. Anthropic tunnusti raportin havainnot hyväksymättömiksi ja ilmoitti laajentavansa turvatoimiaan, toimeenpanoa ja testaustoimiaan. OpenAI korosti kieltoaan käyttää tekoälyään väkivaltaan tai luvattomiin sotilaallisiin tarkoituksiin ja totesi kehittävänsä lisää väärinkäytön estotoimia.
Vals selvensi, ettei tekoälyä pyydetty tekemään suoria iskujen päätöksiä, mutta sen antamat tulokset voisivat silti johtaa kuolettaviin seurauksiin, jos niitä käytettäisiin autonomisissa aseissa operatiivisesti. Erityinen esimerkki oli Yhdysvaltain joukkojen vuonna 2026 pommittamasta iranilaisesta koulusta otettu satelliittikuva, jossa tekoälymallit usein virheellisesti tunnistivat koulun kohteeksi.
Vaikka lisäsuojaustoimet voivat olla käytössä sotilaallisissa tekoälyjärjestelmissä, tutkimus korostaa haasteita estää julkisesti saatavilla olevien mallien väärinkäyttö. Teknologiset rajoitteet voivat vähentää tällaisen tekoälyn suoraa käyttöä reaaliaikaisessa drone-kohdistuksessa, mutta niiden kyky merkitä taistelukentän kuvamateriaalia suuressa mittakaavassa luo huolestuttavan riskin kouluttaa tulevia autonomisia kohdistusjärjestelmiä.
Tulokset kiihdyttävät jatkuvaa keskustelua tekoälyn kehittäjien eettisistä vastuista, nykyteknologian rajoista ja kiireellisestä tarpeesta vahvoille suojatoimille tahattoman sotilaallisen käytön ehkäisemiseksi. Raportti korostaa tekoälyn kyvykkyyden, väärinkäytön potentiaalin ja poliittisten haasteiden monimutkaista leikkauspistettä kehittyvässä autonomisen sodankäynnin toimintaympäristössä.
Lähteet ja alkuperäiset raportit
Lue alkuperäinen lähde ↗

Kommentit (0)
Ei vielä kommentteja. Aloita keskustelu.
Kirjoita kommentti
Kommentit julkaistaan moderoinnin jälkeen. Nimesi ja kommenttisi näkyvät julkisesti. Tili