Anthropic zbliża się do przełomu w AI z potencjałem rekurencyjnej samo-ulepszenia

Image: TechCrunch · Source

Najnowsze zgłoszenie Anthropic ujawnia, że firma jest bliska osiągnięcia rekurencyjnej samo-ulepszenia w AI, co umożliwia modelom szybki samorozwój, wzbudzając nadzieje i obawy dotyczące przyspieszonych możliwości sztucznej inteligencji.

W zmienionym zgłoszeniu regulacyjnym firma badawcza Anthropic ujawniła, że zbliża się do znaczącego kamienia milowego w rozwoju sztucznej inteligencji, znanego jako rekurencyjne samo-ulepszenie (RSI). RSI odnosi się do zdolności systemu AI do autonomicznego doskonalenia własnych umiejętności, co potencjalnie może wywołać szybkie i znaczne postępy wykraczające poza liniowy rozwój.

Zaktualizowane zgłoszenie S-1A Anthropic wyjaśnia, że firma coraz częściej wykorzystuje AI do przyspieszenia własnych procesów badawczo-rozwojowych. Praktyka ta doprowadziła do sytuacji, w których skoki w zdolnościach modeli pozostawały niezauważone aż do momentu ich wystąpienia, co wskazuje na tempo ulepszania mogące przekroczyć istniejące środki bezpieczeństwa i dostrajania. Firma zaznaczyła, że żaden z obecnych modeli nie przekroczył definitywnie własnego wewnętrznego progu dla RSI, jednak prognozy sugerują, że może wkrótce osiągnąć to, co określa mianem „dramatycznie przyspieszonego postępu przypisywanego AI.”

Firma podkreśla dwoistą naturę RSI: podczas gdy niesie ona obietnicę przełomowej produktywności i odkryć naukowych, niesie również znaczne ryzyko. Przyspieszony wzrost zdolności AI bez odpowiedniego nadzoru może prowadzić do scenariuszy, w których systemy AI ewoluują poza kontrolą ludzi i potencjalnie działają w sposób obojętny lub szkodliwy dla ludzkich interesów.

Anthropic zadeklarował swój zobowiązanie do nadzoru ludzkiego przy rozwoju AI, wskazując, że nie zamierza pozwolić na w pełni autonomiczne tworzenie modeli bez znaczącego ludzkiego zrozumienia lub nadzoru w najbliższej przyszłości. Firma rozważa aktualizacje swojej Polityki Odpowiedzialnej Skalowalności, która kieruje ich podejściem do monitorowania i łagodzenia ryzyk związanych z RSI.

To ogłoszenie przyciągnęło uwagę w szerszym kontekście dyskusji na temat trajektorii i zarządzania AI. Choć niektórzy mogą postrzegać takie zgłoszenia częściowo jako promocyjne, przyznanie przez Anthropic szybko ewoluujących możliwości AI podkreśla pilność potrzeby przemyślanego nadzoru w miarę wzrostu mocy modeli.

Flagowy AI Anthropic, Claude, wykazał w tym roku znaczące postępy, szczególnie w generowaniu kodu, rozumowaniu matematycznym i zadaniach z zakresu cyberbezpieczeństwa, co podkreśla realny postęp w kierunku modeli zdolnych do samodzielnej poprawy. Transparentne skupienie firmy na RSI jako zarówno obietnicy, jak i wyzwaniu wnosi krytyczną perspektywę do trwającego dialogu na temat równoważenia innowacji AI i bezpieczeństwa.