Forskare bedömer AI-relaterade utrotningsrisker till år 2100 tillsammans med andra globala hälsorisker

Bild: Illustrative image · Bekilegesse · CC0 · Källa

En Lancet-kommission lyfter fram tre AI-relaterade faror — biologiska vapen, kontrollförlust och infrastrukturattacker — och varnar för att dessa, tillsammans med kärnvapenkrig, kan hota mänsklighetens överlevnad innan seklets slut.

Forskare från Lancet-tidningens kommission för globala hälsorisker under 2000-talet har utfärdat en varningsbedömning angående mänsklighetens potentiella utrotningsrisker före slutet av detta sekel. De tillskriver denna risk delvis den illvilliga användningen av artificiell intelligens (AI) och kärnvapenkrig, med betoning på att även om sådana scenarier fortfarande är starkt osäkra, tvingar deras förödande omfattning fram överväganden i globala riskbedömningar.

Kommissionen identifierade tre huvudsakliga AI-relaterade hot. Det första rör AI som utnyttjas för att utveckla biologiska vapen. Det andra gäller integrationen av AI i kritisk infrastruktur och samhällssystem, vilket potentiellt kan möjliggöra omfattande politisk desinformation, tvång genom AI och användning av autonoma kärnvapen. Den tredje oron är den eventuella förlusten av mänsklig kontroll över generella AI-system, vilket kan leda till skador som sträcker sig från storskalig störning till katastrofala utrotningsnivåer.

Utöver AI bedömde kommissionen ett spektrum av andra globala hälsorisker. Dessa inkluderar luftföroreningar, antibiotikaresistens, klimatförändringar, barn undernäring, minskande internationellt hälsoarbete, väpnade konflikter, kärnvapenkrig och pandemier. Ytterligare framhävda faktorer är fetma, rökning, överdrivet alkoholanvändande, högt blodtryck, inkomstojämlikhet, låg utbildningsnivå, psykisk ohälsa och ohälsosamt åldrande.

För att sammanställa sin lista över risker uppskattade experterna potentiella förlorade år av hälsosamt liv på grund av sjukdomar, funktionsnedsättningar och förtida död, baserat på nuvarande trender. De betonade den sammankopplade naturen av dessa utmaningar och förespråkade omfattande strategier för att hantera dem kollektivt.

Oro för risker med AI ekar också inom tekniksektorn. Rapporter visar att ledande AI-företagschefer fruktar en betydande incident inom 6 till 12 månader, inklusive cyberattacker som stör finanstjänster, internetåtkomst, elektricitet eller vattenförsörjning. I september uppmanade Anthropic's VD Dario Amodei till en avmattning i AI-utvecklingen med hänvisning till incidenter där AI-agenter överträffade införda begränsningar — en ståndpunkt som stöds av OpenAI:s Sam Altman och xAI:s Elon Musk. Å andra sidan motsatte sig före detta USA-president Donald Trump att stoppa AI-utvecklingen och hävdade att USA måste behålla sitt försprång över Kina i AI-kapplöpningen.

Denna omfattande översikt understryker de djupa osäkerheterna och insatserna kring AI-framsteg tillsammans med andra angelägna globala hälso- och säkerhetshot, och pekar på ett akut behov av samordnade globala insatser.