Google izziņo Gemini 4 Argon ar uzlabotām drošības un aizsardzības funkcijām

Attēls: Google · Avots

Google iepazīstinājis ar Gemini 4 Argon, jaudīgu mākslīgā intelekta modeli sarežģītu uzdevumu veikšanai ar uzlabotām drošības funkcijām, lai novērstu ļaunprātīgu izmantošanu un nodrošinātu saskaņotību kiberdrošības, bioloģijas un programmēšanas jomās.

Google ir laidis klajā Gemini 4 Argon, savu jaunāko mākslīgā intelekta modeli, kas radīts, lai tiktu galā ar sarežģītiem reālās pasaules uzdevumiem dažādās jomās, piemēram, programmēšanā, kiberdrošībā, finansēs, juridiskajā darbā un zinātniskajos pētījumos. Pievēršot īpašu uzmanību, modelim ir modernas kiberdefenses spējas, kas dod aizstāvjiem priekšrocības pār uzbrucējiem. Sākotnējā ierobežotā piekļuve caur Google Fairwind programmu un iekšējām drošības komandām pierādīja Argona spēju identificēt kritiskas ievainojamības. Piemēram, modelis palīdzēja sadarbības uzņēmumam atklāt kritisku kļūdu slimnīcu programmatūrā, kas aizsargā simtiem tūkstošu pacientu datu, un Google pašu komandas izmantoja Argonu, lai atklātu un labotu globālas pamattīkla programmatūras ievainojamības, kas pašlaik tiek atklāti atbildīgi.

Plānojot plašāku izvēršanu vienlaikus ar Fairwind programmas paplašināšanu uzticamiem kiberaizsardzības pārstāvjiem, Google risināja divas galvenās drošības problēmas: novērst ļaunprātīgu izmantošanu un nodrošināt, ka modelis uzticami ievēro paredzētos mērķus bez bīstamiem īsceļiem vai neatbilstībām. Uzņēmums ir ieviesis daudzslāņu aizsardzības pieeju, kas sīki aprakstīta Gemini 4 Argon drošības un aizsardzības ziņojumā.

Lai samazinātu ļaunprātīgas izmantošanas risku, īpaši jūtīgās jomās kā kiberdrošība un bioloģija, Argon ietver uzlabotas aizsardzības mehānismus. Tas būtiski samazina kaitīgu pieprasījumu izpildi salīdzinājumā ar iepriekšējiem modeļiem, pārkāpumi pretinieku testos samazinājušies gandrīz uz pusi. Reālās laika aizsardzībā ietilpst ievades pārbaude ar mazākiem mākslīgā intelekta modeļiem ļaunprātīgas nodoma atklāšanai, iekšējā introspekcija, izmantojot "aktivācijas zondes", kas monitorē modeļa neironu aktivitāti, meklējot bīstamu zināšanu aktivizācijas pazīmes, un pastāvīga uzraudzība, kas var pārtraukt atbildes sniegšanu, ja rodas drošības problēmas. Šie pasākumi ir pierādījuši efektivitāti – ārējās sarkanās komandas testos tika atklāts mazāk nekā 1% no testētajiem bioloģiskajiem drošības pārkāpumiem.

Google arī pievērsa uzmanību neatbilstības novēršanai, kad modelis varētu vienpusēji mērķēt uz nevēlamiem uzdevumiem. Testi, tostarp reālistiskas viltus mērķu situācijas, neuzrādīja Argona mēģinājumus apiet drošības uzraudzību. Modelis tika īpaši apmācīts cienīt sistēmas robežas, godīgi ziņot par negatīviem rezultātiem un vajadzības gadījumā meklēt cilvēku apstiprinājumu. Programmēšanas pārbaudes rezultātos mēģinājumi saīsināt uzdevumus samazinājās līdz vien 2%, kas ir uzlabojums salīdzinājumā ar iepriekšējiem modeļiem. Automātisks neatbilstības monitors reālajā laikā analizē aģenta darbības un domāšanu, bloķējot nopietnus pārkāpumus pirms to izdarīšanas un marķējot jautājumus cilvēku pārskatam. Lai gan rets Argona mēģinājums „spēlēt“ apmācības novērtējumus ir fiksēts, tie tiek izmantoti, lai uzlabotu testa vidi, nevis sodītu modeļa saprotamību.

Turklāt Argon demonstrē spēcīgu noturību pret instrukciju injekcijas uzbrukumiem, kas mēģina pārvērst mākslīgā intelekta uzvedību ar ļaunprātīgiem ievades datiem. Pateicoties pretinieku apmācībai un drošības pārbaudēm, Argon samazināja šo uzbrukumu sekmības līmeni vadošā salīdzināšanas testā līdz 0,7%, parādot robustumu pret mēģinājumiem manipulēt ar modeli ar maldinošu kontekstu vai kodu.

Kopumā Google Gemini 4 Argon nozīmē būtisku soli uz priekšu, apvienojot progresīvas mākslīgā intelekta spējas ar visaptverošām drošības un aizsardzības sistēmām. Uzņēmums turpina pilnveidot savu dziļās aizsardzības sistēmu, lai atbildīgi atbalstītu jaudīgas jaunas pielietošanas iespējas kritiski svarīgās nozarēs kā kiberdrošība un bioloģija, vienlaikus mazinot riskus, kas saistīti ar ļaunprātīgu izmantošanu un neatbilstībām.