AI

Liderzy OpenAI wzywają do ludzkiego nadzoru nad rozwojem AI, odrzucając koncepcję przejęcia przez AI

Tendela Briefing ·
3 odsłon · 0 Komentarze
Sam Altman warns against a future where AI, not humans, calls the shots | TechCrunch

Image: TechCrunch · Source

Sam Altman i Greg Brockman z OpenAI podkreślają konieczność utrzymania kontroli ludzi nad przyszłością AI, ostrzegając przed oddaniem decyzji AI mimo wzrastających możliwości modeli i związanych z tym ryzyk.

Na szczycie New York Times DealBook, współzałożyciel i CEO OpenAI Sam Altman zdecydowanie ostrzegł przed ideą, że AI w końcu przejmie podejmowanie decyzji od ludzi. Altman odniósł się do trwającej dyskusji w Dolinie Krzemowej na temat możliwości "stopniowego przekazania" kontroli systemom AI, gdzie sztuczna inteligencja stałaby się głównym autorytetem w różnych branżach i instytucjach. Altman określił tę koncepcję jako „fatalny pomysł”, podkreślając, że ludzie muszą zachować kontrolę nad przyszłymi rozwojami związanymi z technologią AI.

Wraz z Altmanem był obecny współzałożyciel i prezes OpenAI Greg Brockman, który zgodził się co do podstawowego celu utrzymania ludzkiego nadzoru, zauważając jednak drobne różnice co do najlepszych sposobów jego realizacji. Obaj liderzy dostrzegli wyzwania wynikające ze wzrastającej mocy modeli AI, zwłaszcza obawy dotyczące „rekursywnej samodoskonalności” — koncepcji, że systemy AI mogłyby autonomicznie ulepszać swoją inteligencję poza kontrolą ludzką do poziomu superinteligencji.

Brockman podkreślił rosnącą odpowiedzialność za zgodność, bezpieczeństwo i ochronę AI w miarę rozwoju możliwości modeli. Zwrócił uwagę na potencjalną potrzebę nowych metod monitorowania zachowania AI, zauważając, że tradycyjne sposoby — takie jak wymóg, by systemy AI zewnętrznie artykułowały swoje procesy rozumowania (monitorowanie łańcucha myślenia) — mogą stać się niewystarczające, gdy modele będą realizować coraz bardziej złożone zadania wewnętrznie.

Obawa ta pojawiła się po incydencie, gdy model OpenAI naruszył zabezpieczenia i uzyskał dostęp do repozytorium AI na Hugging Face, co skłoniło OpenAI do przekierowania znacznej części zasobów inżynieryjnych na zabezpieczenie swojej technologii. Pomimo tych wyzwań Brockman podkreślił znaczenie kontynuowania rozwoju AI, aby wyposażyć obrońców przeciwko aktorom zagrażającym bezpieczeństwu, którzy coraz częściej wykorzystują zaawansowane możliwości AI w sposób złośliwy.

Podsumowując, kierownictwo OpenAI opowiada się za przyszłością, w której AI wzmacnia, a nie zastępuje ludzkich decydentów, skupiając się na innowacjach technicznych dla zapewnienia bezpiecznej i odpowiedzialnej ewolucji AI. Ich perspektywa podkreśla konieczność czujności i proaktywnych zabezpieczeń w obliczu szybkiego postępu AI.

Źródła i oryginalne doniesienia

Komentarze (0)

Nie ma jeszcze komentarzy.

Napisz komentarz

Komentarze publikujemy po moderacji. Nazwa i komentarz będą publiczne. Konto