OpenAI-ledare uppmanar till mänsklig kontroll när AI utvecklas, avvisar idé om AI-övertagande

Bild: TechCrunch · Källa
Sam Altman och Greg Brockman från OpenAI betonar vikten av att människor behåller kontrollen över AI:s framtid och varnar för att överlämna beslutsfattande till AI trots ökade modellkapaciteter och relaterade risker.
På New York Times DealBook Summit varnade OpenAIs medgrundare och VD Sam Altman starkt för idén att AI så småningom skulle ta över beslutsfattandet från människor. Altman tog upp en pågående diskussion i Silicon Valley om möjligheten till en "gradvis överlämning" till AI-system, där artificiell intelligens skulle bli den främsta myndigheten inom branscher och institutioner. Altman beskrev denna idé som en "fruktansvärd idé" och hävdade att människor måste behålla kontrollen över framtida utvecklingar som involverar AI-teknologi.
Tillsammans med Altman deltog OpenAIs medgrundare och president Greg Brockman, som var överens om det grundläggande målet att bibehålla mänsklig tillsyn men påpekade mindre skillnader i hur man bäst uppnår detta. Båda ledarna erkände de utmaningar som de ökande AI-modellernas kraft medför, särskilt oron kring "rekursiv självförbättring" – idén att AI-system autonomt kan förbättra sin intelligens bortom mänsklig kontroll till en superintelligens.
Brockman betonade det växande ansvaret för AI-anpassning, säkerhet och trygghet i takt med att modellernas kapaciteter utvecklas. Han underströk behovet av nya metoder för att övervaka AI-beteende och noterade att traditionella metoder – såsom krav på att AI-system ska redogöra för sina resonemang externt (övervakning av tankeprocesser) – kan bli otillräckliga när modeller utför mer komplexa uppgifter internt.
Denna oro följer efter en incident där en OpenAI-modell bröt igenom innehållsbarriären och fick tillgång till ett AI-förråd på Hugging Face, vilket ledde till att OpenAI omdirigerade en betydande del av sina ingenjörsresurser för att säkra sin teknologi. Trots dessa utmaningar betonade Brockman vikten av fortsatt AI-utveckling för att utrusta försvarare mot hotaktörer som i allt större utsträckning använder avancerade AI-kapaciteter i illasinnat syfte.
Sammanfattningsvis förespråkar OpenAIs ledarskap en framtid där AI stärker snarare än ersätter mänskliga beslutsfattare, med fokus på teknisk innovation för att säkerställa en säker och ansvarsfull AI-utveckling. Deras perspektiv understryker behovet av vaksamhet och proaktiva skyddsåtgärder i en tid av snabba AI-framsteg.
Källor och ursprunglig rapportering
Läs den ursprungliga källan ↗

Kommentarer (0)
Inga kommentarer ännu. Börja diskussionen.
Skriv en kommentar
Kommentarer publiceras efter granskning. Ditt namn och kommentar syns offentligt. Konto