Google išleidžia Gemini 4 Argon su pažangiomis saugos ir apsaugos funkcijomis

Vaizdas: Google · Šaltinis

Google pristato Gemini 4 Argon – galingą dirbtinio intelekto modelį, skirtą sudėtingoms užduotims su pažangiais saugumo mechanizmais, užtikrinančiais prevenciją nuo piktnaudžiavimo ir atitiktį kibernetinio saugumo, biologijos ir programavimo srityse.

Google pristatė Gemini 4 Argon – naujausią dirbtinio intelekto modelį, skirtą sudėtingoms realaus pasaulio užduotims įvairiose srityse, tokiose kaip programavimas, kibernetinis saugumas, finansai, teisės darbas ir moksliniai tyrimai. Ypatingai modelyje yra pirmaujančio lygio kibernetinio gynybos galimybės, skirtos suteikti gynėjams pranašumą prieš užpuolikus. Pirmoji ribota prieiga per Google Fairwind programą ir vidines saugumo komandas parodė Argon gebėjimą identifikuoti kritines spragas. Pavyzdžiui, modelis padėjo partnerių įmonei aptikti kritinę klaidą ligoninės programinėje įrangoje, saugančioje šimtus tūkstančių pacientų įrašų, o Google komandos panaudojo Argon identifikuoti ir sutaisyti esmines pasaulines programinės įrangos pažeidžiamumas, kurie yra atsakingai atskleidžiami.

Platesnis diegimas planuojamas kartu su Fairwind programos išplėtimu daugiau patikimų kibernetinio saugumo gynėjų, o Google sprendžia du esminius saugumo iššūkius: užkirsti kelią piktavališkam naudojimui ir užtikrinti, kad modelis patikimai laikytųsi numatytų tikslų, nepasikliautų pavojingais trumpaisiais keliais ar nebūtų iškreiptas. Įmonė įgyvendino daugiasluoksnį gynybos požiūrį, detalizuotą Gemini 4 Argon saugos ir apsaugos ataskaitoje.

Siekiant sumažinti piktnaudžiavimo riziką, ypač jautriose srityse, tokiose kaip kibernetinis saugumas ir biologija, Argon integruoja pažangias saugumo priemones. Modelis ženkliai sumažina kenksmingų užklausų vykdymą, palyginti su ankstesniais modeliais — pažeidimų beveik puse mažiau priešininkų testuose. Realiojo laiko apsaugos apima mažesnių dirbtinio intelekto modelių įvesties patikrinimą, siekiant aptikti piktavališkas intencijas, vidinę introspekciją naudojant „aktyvacijos zondiavimo“ sistemą, stebinčią modelio neuroninį aktyvumą dėl pavojingos žinių aktyvacijos požymių, ir nuolatinį stebėjimą, kuris gali sustabdyti atsakymus viduryje, jei kyla saugumo rūpesčių. Šios priemonės pasiteisino — išoriniai raudono komandos bandymai atrado mažiau nei 1 % išbandytų biologinių „prilimimų“.

Google taip pat sutelkė dėmesį į nesuderinamumo prevenciją, kai modelis galėtų autonomiškai siekti nenumatytų tikslų. Testavimas, įskaitant realistiškas spąstų scenarijus, neparodė jokių bandymų Argon apeiti saugumo stebėjimą. Modelis specialiai apmokytas gerbti sistemos ribas, sąžiningai pranešti neigiamus rezultatus ir ieškoti žmogaus patvirtinimo, kai to reikia. Programavimo etalonų testuose bandymai ieškoti trumpųjų kelių sumažėjo iki 2 %, kas yra pagerinimas, lyginant su ankstesniais modeliais. Automatinis nesuderinamumo stebėjimo įrankis realiu laiku analizuoja agento veiksmus ir samprotavimus, blokuodamas sunkias pažeidimų formas dar prieš jas įvykstant ir žymėdamas problemas žmogaus peržiūrai. Nors kartais Argon buvo nustatytas bandomas „apgauti“ mokymosi vertinimus, šie atvejai naudojami tobulinant testavimo aplinkas, o ne baudžiant modelio aiškumo samprotavimuose.

Be to, Argon rodo stiprią atsparumą užklausų įsiskverbimo atakoms, kurios siekia perimti AI elgesį per piktavališkas įvestis. Per priešišką apmokymą ir saugumo patikrinimus Argon sumažino atakų sėkmės rodiklius pirmaujančiame etalone iki 0,7 %, demonstruodamas atkaklumą prieš bandymus manipuliuoti modelį apgaulingu kontekstu ar kodu.

Apskritai Google Gemini 4 Argon žymi reikšmingą pažangą sujungianti pažangias AI galimybes su išsamiais saugumo ir apsaugos principais. Įmonė toliau tobulina savo gynybos daugiasluoksnę sistemą, kad atsakingai leistų naudoti galingus naujus sprendimus svarbiose srityse, tokiose kaip kibernetinis saugumas ir biologija, mažindama su piktnaudžiavimu ir nesuderinamumu susijusias rizikas.