Anthropic įspėja apie besiformuojančius savireplikuojančius kirmėlius, valdomus dirbtinio intelekto, taikinius IoT įrenginiams

Vaizdas: Ars Technica · Šaltinis

Anthropic atskleidžia, kad tobulėjantys maži DI modeliai netrukus galės sukurti savireplikuojančią kenkėjišką programinę įrangą – DI kirmėlius, kurie autonomiškai galės užkrėsti įvairius IoT įrenginius ir prisitaikyti prie nežinomos aparatūros, keliančius naujas, sunkiai blokuojamas kibernetines grėsmes.

Dirbtinio intelekto kompanija Anthropic paskelbė tyrimą, kuris atkreipia dėmesį į naują galimą kibernetinio saugumo grėsmę – sparčiai tobulėjančius mažus DI modelius, galinčius sukelti savireplikuojančią kenkėjišką programinę įrangą, vadinamą „mažo svorio replikatoriais“. Šie DI varomi kirmėliai gali autonomiškai užkrėsti daiktų interneto (IoT) įrenginius, tokius kaip išmanieji šaldytuvai, dulkių siurbliai ar neprekiniai Android TV dėžutės. Skirtingai nuo tradicinės kenkėjiškos programinės įrangos, tokie DI varomi kirmėliai galėtų dinamiškai prisitaikyti prie naujų įrenginių ir plisti be žmogaus įsikišimo, dėl ko jų suvaldymas ir pašalinimas būtų sudėtingesnis.

Anthropic eksperimentuose buvo išplatinti mažesni DI modeliai per tinklus, sudarytus iš pigesnių IoT įrenginių, ir parodyta, kad šie modeliai gali vykdyti spėjimus paskirstydami apkrovą tarp ribotos atminties turinčių įrenginių. Pavyzdžiui, jų Gemma4-26B-A4B modelis veikė paskirstytai per 15 Android TV dėžučių, turinčių po 4 GB RAM kiekviena. Lygiai taip pat jų Qwen3.5-9B modelis sėkmingai konfigūravo kitus didelius kalbos modelius įvairiems aparatūrų tipams. Šis sugebėjimas autonomiškai prisitaikyti leidžia DI kirmėlėms taikytis į platų įrenginių architektūrų spektrą be išankstinių nurodymų.

Tyrimas taip pat parodė, kad tokie DI kirmėliai gali replikuotis ieškodami pažeidžiamų įrenginių tinkle, naudodamiesi išnaudojimais užvaldyti kodą, įdiegdami savo modelio svorius kaip nešėją, steigdamiesi spėjimo serverius naujuose kompiuteriuose ir kartodami šį procesą. Ypač svarbu, kad šie kirmėliai gali mokytis iš nesėkmingų užkrėtimo bandymų, palikdami pastabas ir tobulinimus būsimiems atvejams, taip ilgainiui didindami savo išlikimą ir sėkmę.

Tačiau Anthropic įspėja, kad pilnai autonomiškas end-to-end replikavimosi pajėgumas šiuo metu mažiems modeliams dar yra nepasiekiamas. Jų bandymai parodė, kad nors didesni modeliai, tokie kaip GLM-5.2, gali patikimai replikuotis per simuliuotus tinklus, mažesni dar nepavyksta tobulai užbaigti viso užkrėtimo ciklo, o pats replikavimosi procesas yra lėtas – vienamam įrenginiui užtrunka kelias dienas. Vis dėlto, remiantis vystymosi tendencijomis, numatoma, kad mažieji DI modeliai galėtų įgyti visiškas replikatoriaus savybes iki 2026 m. pabaigos.

Anthropic pabrėžia, kad šie DI kirmėliai iš esmės skiriasi nuo ankstesnių IoT botnetų, tokių kaip Mirai, kurie taikėsi specifinei aparatūrai ir naudojo statinius nešėjus. DI varomi replikatoriai gali užkrėsti įvairius įrenginius, dinamiškai keisti išnaudojimus ir nešėjus priklausomai nuo taikinio ir priešintis pašalinimo bandymams dėl decentralizuoto veikimo be centrinio valdymo taško. Tinklų gynėjai tokius užkrėtimus galėtų pastebėti neįprastais daugiagigabaitiniais nešėjo perdavimais ir nuolatiniu įrenginių tarpusavio ryšiu, tačiau plačius užkrėtimus suvaldyti reikėtų koordinuotų ISP ir gamintojų veiksmų.

Galimos prevencijos priemonės apima geresnius įrenginių saugumo standartus, numatytų slaptažodžių pašalinimą, tinklo eismo anomalijų stebėjimą ir užkrėstų įrenginių izoliavimą. Anthropic tyrimas ragina būti sąmoningiems ir pasirengusiems šiai besiformuojančiai grėsmei, nes IoT įrenginių paplitimas ir įmontuotos DI galimybės toliau auga.

Apibendrinant, nors pilnas piktavalis DI replikatorius kirmėlis dar nesusiformavo, Anthropic atliktas tyrimas rodo, kad tobulėjant agentiniams DI modeliams netrukus gali atsirasti sudėtinga savęs dauginanti kenkėjiška programinė įranga, nukreipta į IoT ekosistemas, todėl būtini atnaujinti kibernetinio saugumo sprendimai ir industrijos bendradarbiavimas, kad būtų išvengta plačių pasekmių.