Anthropic nærmer seg AI-gjennombrudd med potensial for rekursiv selvforbedring

Bilde: TechCrunch · Kilde

Anthropics nylige rapport avslører at selskapet er nær ved å oppnå rekursiv selvforbedring i AI, som gjør det mulig for modeller å raskt utvikle seg selv. Dette vekker både håp og sikkerhetsbekymringer rundt akselererte AI-evner.

I en revidert regulatorisk rapport opplyste AI-forskningsselskapet Anthropic at det nærmer seg en betydelig milepæl innen utvikling av kunstig intelligens kalt rekursiv selvforbedring (RSI). RSI refererer til en AI-systems evne til selvstendig å forbedre sine egne ferdigheter, noe som potensielt kan utløse raske og betydelige fremskritt ut over lineær utvikling.

Anthropics oppdaterte S-1A-rapport forklarer at selskapet i økende grad benytter AI for å akselerere sin egen forsknings- og utviklingsprosess. Denne praksisen har ført til tilfeller der hopp i modellens kapasitet ikke ble oppdaget før etter at de hadde skjedd, noe som indikerer et forbedringstempo som kan overgå eksisterende sikkerhets- og tilpasningstiltak. Selskapet bemerket at selv om ingen nåværende modeller definitivt har krysset deres interne terskel for RSI, antyder prognoser at de snart kan oppnå det de omtaler som "dramatisk akselerert fremgang tilskrevet AI."

Selskapet legger vekt på RSI sin todelte natur: selv om det har transformerende potensial for enestående produktivitet og vitenskapelige oppdagelser, utgjør det også betydelige risikoer. Akselerert vekst i AI-evner uten tilstrekkelig tilsyn kan føre til scenarier der AI-systemer utvikler seg utover menneskelig kontroll og potensielt handler på måter som er likegyldige eller skadelige for menneskelige interesser.

Anthropic uttalte sitt engasjement for menneskelig tilsyn i AI-utviklingen og indikerte at de ikke forventer å tillate fullstendig autonom modellutvikling uten betydelig menneskelig forståelse eller kontroll i nær fremtid. Selskapet vurderer oppdateringer av sin Responsible Scaling Policy, som veileder tilnærmingen deres til å overvåke og redusere risiko knyttet til RSI.

Denne kunngjøringen har fått oppmerksomhet i forbindelse med bredere diskusjoner om AI sin utvikling og styring. Selv om noen kan se slike rapporter delvis som promotering, forsterker Anthropics anerkjennelse av raskt utviklende AI-evner behovet for gjennomtenkt tilsyn i takt med at modellene blir kraftigere.

Anthropics flaggskip-AI, Claude, har vist bemerkelsesverdige fremskritt i år, særlig innen kodegenerering, matematisk resonnering og cybersikkerhetsoppgaver, noe som understreker den reelle fremgangen mot modeller som kan forbedre seg selv. Selskapets transparente fokus på RSI som både en mulighet og utfordring tilfører et viktig perspektiv til den pågående dialogen om balansen mellom AI-innovasjon og sikkerhet.