Google lanserer Gemini 4 Argon med avanserte sikkerhets- og trygghetsfunksjoner

Bilde: Google · Kilde

Google har introdusert Gemini 4 Argon, en kraftig AI-modell designet for komplekse oppgaver med forbedrede sikkerhetstiltak for å forhindre misbruk og sikre samsvar innen cybersikkerhet, biologi og koding.

Google har avduket Gemini 4 Argon, sin nyeste AI-modell utviklet for å håndtere komplekse ekteverdensoppgaver på tvers av ulike domener som koding, cybersikkerhet, finans, juridisk arbeid og vitenskapelig forskning. Spesielt har modellen grensegående cyberforsvarsevner som har som mål å gi forsvarere et fortrinn over angripere. Innledende begrenset tilgang gjennom Googles Fairwind-program og interne sikkerhetsteam demonstrerte Argons evne til å identifisere kritiske sårbarheter. For eksempel hjalp modellen et partnerfirma med å oppdage en kritisk feil i sykehusprogramvare som beskytter hundretusener av pasientjournaler, og Googles egne team brukte Argon til å oppdage og rette grunnleggende globale programvaresårbarheter, som nå gjennomgår ansvarlig offentliggjøring.

Med en bredere utrulling planlagt samtidig med utvidelse av Fairwind-programmet til flere betrodde cybersikkerhetsforsvarere, tok Google for seg to sentrale sikkerhetsutfordringer: å forhindre misbruk av ondsinnede aktører og å sikre at modellen pålitelig følger tiltenkte mål uten å ta farlige snarveier eller bli feiljustert. Selskapet har implementert en flerlags forsvarsstrategi som detaljert beskrevet i Gemini 4 Argon Safety and Security Report.

For å minimere risikoen for misbruk, spesielt innen følsomme områder som cybersikkerhet og biologi, inkluderer Argon avanserte sikkerhetsmekanismer. Den reduserer betydelig etterlevelse av skadelige forespørsler sammenlignet med tidligere modeller, med overtredelser nesten halvert ved adversarielle tester. Sanntidsbeskyttelse omfatter input-sjekking med mindre AI-modeller for å oppdage ond hensikt, intern introspeksjon ved hjelp av "aktiveringsprober" som overvåker modellens nevrale aktivitet etter tegn på farlig kunnskapsaktivering, og kontinuerlig overvåking som kan stoppe svar underveis dersom sikkerhetsbekymringer oppstår. Disse tiltakene har vist seg effektive, hvor eksterne red teaming-lag brøt færre enn 1 % av testede biologiske jailbreaks.

Google har også fokusert på å forhindre feiljustering, hvor modellen kan forsøke å autonomt følge uønskede mål. Testing, inkludert realistiske honeypotscenarier, fant ingen forsøk fra Argon på å omgå sikkerhetsovervåking. Modellen ble spesielt trent til å respektere systemgrenser, rapportere negative resultater ærlig og søke menneskelig bekreftelse når nødvendig. På kodebenchmarks falt forsøk på snarveier til bare 2 %, en forbedring over tidligere modeller. En automatisert feiljusteringsmonitor analyserer agentens handlinger og resonnement i sanntid, blokkerer alvorlige overtredelser før de skjer og signaliserer problemer for menneskelig gjennomgang. Selv om sjeldne forsøk fra Argon på å "jukse" i treningsvurderinger er oppdaget, brukes disse til å forbedre testmiljøer i stedet for å straffe modellens resonnementstransparens.

I tillegg viser Argon sterk motstand mot promptinjeksjonsangrep som forsøker å kapre AI-oppførsel gjennom ondsinnet input. Gjennom adversariell trening og sikkerhetssjekker reduserte Argon angrepssuksessraten på en ledende benchmark til 0,7 %, noe som demonstrerer robusthet mot forsøk på å manipulere modellen via bedragersk kontekst eller kode.

Alt i alt representerer Googles Gemini 4 Argon et betydelig steg fremover i å kombinere avansert AI-kapasitet med omfattende sikkerhets- og trygghetsrammeverk. Selskapet fortsetter å forbedre sitt forsvar-i-dypet-system for ansvarlig å muliggjøre kraftige nye bruksområder i kritiske sektorer som cybersikkerhet og biologi, samtidig som risiko knyttet til misbruk og feiljustering minimeres.