Raport ujawnia, że rozwój AI Anthropic przyspiesza szybko pomimo obaw o bezpieczeństwo

Image: Why a new report on Anthropic automating AI development is alarming researchers · Source

Śledztwo METR ujawnia, że modele AI firmy Anthropic poprawiają się dwukrotnie szybciej niż rok temu, głównie dzięki pomocy AI, co budzi niepokój związany z szybkim samodoskonaleniem AI i ograniczoną przejrzystością publiczną.

Szczegółowy raport opublikowany przez grupę badawczą ds. bezpieczeństwa AI METR ujawnia, że Anthropic wykorzystuje sztuczną inteligencję do przyspieszania własnego rozwoju AI, a ich modele poprawiają się w tempie około dwukrotnie szybszym niż rok wcześniej. Ten szybki postęp przypisuje się głównie badaniom wspieranym przez AI, które znacznie zwiększają produktywność pracowników, a nie tylko skalowaniu zasobów obliczeniowych. Według 11-tygodniowego śledztwa METR, wewnętrzne narzędzia AI Anthropic umożliwiły badaczom pracę nawet 12 razy wydajniejszą w porównaniu z poziomami produktywności sprzed wprowadzenia AI, a wzrost ten narastał w ostatnich miesiącach.

Raport podkreśla, że Anthropic ukończył szkolenie trzech zaawansowanych modeli AI w ciągu ostatnich sześciu miesięcy, wszystkie niepublikowane i oznaczone kryptonimami Model 2, Model 3 oraz Model 4. Te najnowsze modele stanowią podstawę wielu zysków w produktywności i szybkości firmy. Jednak Anthropic zastosował obszerne cenzury w publicznej wersji raportu METR, ukrywając wiele szczegółów dotyczących tych prac. Firma uzasadniła te cenzury ochroną informacji handlowych oraz zapobieganiem temu, by konkurenci przyspieszali w podobnym tempie — stanowisko to spotkało się z krytyką za brak przejrzystości.

Współzałożyciel Anthropic, Sam McCandlish, przyznał, że ograniczenie informacji to kompromis, ale obronił tę decyzję jako konieczną do zarządzania ryzykiem związanym z ujawnianiem szczegółowych czynników przyspieszenia. Zapowiedział, że Anthropic wkrótce opublikuje własny raport dotyczący postępów AI i planowanych inicjatyw bezpieczeństwa.

Ujawnienia te zaostrzyły debatę w środowisku zajmującym się bezpieczeństwem AI, gdy Anthropic pozycjonuje się jako lider dbający o bezpieczeństwo, a jednocześnie szybko rozwija możliwości AI. Eksperci podkreślają, że tak szybki rozwój napędzany AI może przyspieszyć pojawienie się systemów zdolnych do rekurencyjnego samodoskonalenia — AI ulepszającej się z minimalnym udziałem człowieka — co wzbudza obawy dotyczące wystarczalności obecnych środków bezpieczeństwa i regulacji.

Krytycy wyrażają również frustrację z powodu sprzecznych publicznych wezwań Anthropic do spowolnienia rozwoju AI, zestawionych z bieżącą trajektorią firmy, szczególnie w świetle rozległych cenzur utrudniających niezależną analizę. Nasila się wezwanie do zwiększenia przejrzystości, niezależnego nadzoru oraz obecności badaczy bezpieczeństwa w laboratoriach AI. Niektórzy politycy, zaniepokojeni tymi wydarzeniami, opowiadają się za zaostrzeniem regulacji lub całkowitym zakazem badań nad rekurencyjnie samodoskonalącą się AI.

Ogólnie raport METR daje jeden z najpełniejszych wglądów, jak badania nad zaawansowaną AI przyspieszają autonomicznie, ale jednocześnie podkreśla poważne wyzwania w utrzymaniu równowagi między otwartością, kwestiami konkurencyjnymi a zarządzaniem bezpieczeństwem w miarę szybkiego postępu tej technologii.