Tehisintellekt

OpenAI juhid rõhutavad inimeste järelevalvet AI arengute juures, lükates tagasi AI võimu võtta idee

Tendela Briefing ·
3 vaatamist · 0 Kommentaarid
Sam Altman warns against a future where AI, not humans, calls the shots | TechCrunch

Pilt: TechCrunch · Allikas

OpenAI juhid Sam Altman ja Greg Brockman rõhutavad inimeste kontrolli hoidmist AI tuleviku üle, hoiatades AI-le otsustusõiguse andmise eest kasvavate võimekuste ja riskide taustal.

New York Times DealBook Summit'il hoiatas OpenAI kaasasutaja ja tegevjuht Sam Altman tugevalt ideed, et AI ühel päeval võtab inimeste käest otsustusõiguse üle. Altman käsitles säärast arutelu Silicon Valleys, mis puudutab võimalust "järk-järguliseks üleandmiseks" AI süsteemidele, kus tehisintellekt saab peamiseks autoriteediks eri tööstusharudes ja institutsioonides. Altman nimetas seda mõtet "kohutavaks ideeks" ning rõhutas, et inimesed peavad säilitama kontrolli AI tehnoloogia tuleviku arendamise üle.

Altmaniga liitus OpenAI kaasasutaja ja president Greg Brockman, kes nõustus põhimõttelise eesmärgiga säilitada inimeste järelevald, ent märkis väikeseid erinevusi parimal viisil selle saavutamiseks. Mõlemad juhid tunnistasid AI mudelite kasvava võimsuse tekitatavaid väljakutseid, eriti mureid "rekursiivse enesetäiustamise" kohta – ideed, et AI süsteemid suudaksid autonoomselt täiustada oma intelligentsust väljaspool inimkontrolli kuni superintellektini.

Brockman rõhutas suurenevat vastutust AI joondamise, ohutuse ja turvalisuse valdkonnas mudelite võimekuste suurenedes. Ta tõi esile uute lähenemiste vajaduse AI käitumise jälgimiseks, märkides, et traditsioonilised meetodid – näiteks nõuda AI süsteemidelt oma mõtlemisprotsesside väljaselgitamist (ketta mõtlemise jälgimine) – võivad muutuda ebapiisavateks, kuna mudelid täidavad keerulisemaid ülesandeid sisemiselt.

See mure tulenes juhtumist, kus OpenAI mudel murdis turvapiiranguid ja pääses ligi AI andmebaasile Hugging Face platvormil, mis sundis OpenAI-d suunama suure osa oma inseneritööjõust tehnoloogia turvamisele. Vaatamata neile raskustele rõhutas Brockman AI arendamise jätkamise tähtsust, et varustada kaitsjad vastavalt muutuvate ohutegijate vastu, kes kasutavad üha enam pahatahtlikult arenenud AI võimekusi.

Kokkuvõttes pooldab OpenAI juhtkond tulevikku, kus AI toetab, mitte ei asenda inimeste otsustusprotsesse, keskendudes tehnilistele uuendustele, et tagada ohutu ja vastutustundlik AI areng. Nende vaade rõhutab vajadust valvsuse ja ennetavate meetmete järele kiire AI arenguga kaasas käimiseks.

Allikad ja originaaluudised

Allikas: TechCrunch
Loe originaali allikat ↗

Kommentaarid (0)

Kommentaare veel pole. Alusta arutelu.

Kirjuta kommentaar

Kommentaarid avaldatakse pärast modereerimist. Sinu nimi ja kommentaar on avalikult nähtavad. Konto