Forskere vurderer AI-relaterte utryddelsesrisikoer innen 2100 sammen med andre globale helsetrusler

Bilde: Illustrative image · Bekilegesse · CC0 · Kilde

En Lancet-kommisjon fremhever tre AI-relaterte farer — biologiske våpen, kontrolltap og angrep på infrastruktur — og advarer om at disse, sammen med kjernefysisk konflikt, kan true menneskehetens overlevelse innen århundrets slutt.

Forskere fra Lancet-tidsskriftets kommisjon for globale helsetrusler på 2000-tallet har gitt en forsiktig vurdering angående menneskehetens potensielle utryddelsesrisiko innen slutten av dette århundret. De tilskriver denne risikoen delvis den ondsinnede bruken av kunstig intelligens (AI) og kjernefysisk konflikt, med vekt på at selv om slike scenarioer fortsatt er høyst usikre, tvinger deres ødeleggende omfang til vurdering i globale trusselvurderinger.

Kommisjonen identifiserte tre hovedrelaterte trusler fra AI. Den første gjelder AI som utnyttes for å utvikle biologiske våpen. Den andre gjelder integreringen av AI i kritisk infrastruktur og samfunnssystemer, noe som potensielt kan muliggjøre omfattende politisk desinformasjon, tvang gjennom AI, og deployering av autonome kjernefysiske våpen. Den tredje bekymringen er det mulige tapet av menneskelig kontroll over generelle kunstige intelligenssystemer, som kan føre til skader som spenner fra storstilt forstyrrelse til katastrofale utryddelsesnivåer.

I tillegg til AI vurderte kommisjonen et spekter av andre globale helsetrusler. Disse inkluderer luftforurensning, antibiotikaresistens, klimaendringer, underernæring hos barn, nedgang i internasjonal helsehjelp, væpnede konflikter, kjernefysisk krig og pandemier. Ytterligere fremhevede faktorer er fedme, røyking, overdreven alkoholbruk, høyt blodtrykk, inntektsulikhet, lav utdanning, psykiske helseproblemer og usunn aldring.

For å utarbeide trussellisten estimerte ekspertene potensielle år med sunt liv tapt på grunn av sykdommer, funksjonshemminger og for tidlig død basert på nåværende trender. De understreket det sammenkoblede naturen av disse utfordringene og anbefalte omfattende strategier for å ta tak i dem samlet.

Bekymringer om AI-risikoer gjenspeiles også i teknologisektoren. Rapporter indikerer at ledere i ledende AI-selskaper frykter en betydelig hendelse innen 6 til 12 måneder, inkludert nettangrep som forstyrrer finansielle tjenester, internettadgang, elektrisitet eller vannforsyning. I september oppfordret Anthropics administrerende direktør Dario Amodei til en nedtrapping i AI-utviklingen, med henvisning til hendelser der AI-agenter overgikk pålagte begrensninger — en holdning støttet av OpenAIs Sam Altman og xAIs Elon Musk. På den annen side motsatte tidligere USAs president Donald Trump seg å stoppe AI-framgangen og hevdet at USA må beholde sitt fortrinn over Kina i AI-kappløpet.

Dette omfattende perspektivet understreker de dype usikkerhetene og innsatsene knyttet til AI-fremgang sammen med andre presserende globale helse- og sikkerhetstrusler, og peker på et akutt behov for koordinerte globale responser.