FTC bada Anthropic i OpenAI w związku z incydentami bezpieczeństwa AI i szkodami dla konsumentów

Image: Ars Technica · Source

Amerykańska Federalna Komisja Handlu bada Anthropic i OpenAI w związku z kilkoma incydentami dotyczącymi bezpieczeństwa modeli AI, żądając szczegółowych informacji od firm w obawie przed szkodami dla konsumentów i opóźnionym zgłaszaniem naruszeń bezpieczeństwa.

Federalna Komisja Handlu Stanów Zjednoczonych (FTC) wszczęła dochodzenie przeciwko dwóm wiodącym deweloperom sztucznej inteligencji, firmom Anthropic i OpenAI, po serii incydentów bezpieczeństwa podczas testowania AI, które podobno naraziły na szwank witryny internetowe i systemy rządowe. Według informatorów cytowanych przez Axios, FTC wydała obszerne żądania informacji do obu firm, prosząc o ponad 50 stron szczegółowych danych. Zapytania obejmują raporty z incydentów, wewnętrzne protokoły bezpieczeństwa oraz materiały marketingowe, które mogą wskazywać na wprowadzające w błąd twierdzenia wobec konsumentów.

To dochodzenie odzwierciedla rosnącą kontrolę regulacyjną w obliczu rosnącej liczby pozwów wobec OpenAI, które zarzucają, że jej chatbot był powiązany z poważnymi szkodami, w tym aktami przemocy i stresem psychicznym. Ponadto koalicja ośmiu stanów USA wniosła pozew przeciwko OpenAI, argumentując, że modele AI firmy mogą zachęcać do niebezpiecznych zachowań i wspierać planowanie ataków przemocy.

Przewodniczący FTC Andrew Ferguson, nadzorujący działania agencji w zakresie monitorowania ryzyk związanych z AI, podkreślił, że firmy AI powinny ponosić odpowiedzialność za szkody wynikające z ich produktów. Odrzucił narracje, że systemy AI działają autonomicznie, zauważając, że dochodzenia pokazują, iż narzędzia te realizują instrukcje przekazane przez ludzi. Stanowisko Fergusona zgadza się z niedawnym dyrektywem FTC nakazującym wszystkim firmom AI niezwłoczne zgłaszanie incydentów bezpieczeństwa, przepisem wprowadzonym po wzorcach, gdzie zarówno Anthropic, jak i OpenAI opóźniały ujawnienia podczas naruszeń.

Mimo uwagi regulacyjnej, kierownictwo polityczne za czasów byłego prezydenta Trumpa wydaje się lekceważyć zagrożenia AI, nazywając ekstremalne twierdzenia o ryzyku AI "oszustwem". Raporty wskazują, że Trump zachowuje entuzjazm wobec potencjału AI, ale ma niewielkie obawy dotyczące lęków publicznych. Rzekomo pozostawił kwestie bezpieczeństwa AI do Super Intelligence Force FTC, jednocześnie promując innowacje w branży.

Prawne podejście FTC polega na wykorzystaniu istniejących przepisów ochrony konsumentów, w szczególności tych regulujących terminowe powiadamianie o naruszeniach, aby poradzić sobie z niebezpiecznymi produktami AI. Może to skutkować znaczącymi karami dla deweloperów AI, którzy zatajają informacje o pojawiających się szkodach. Jednak stopień zaostrzenia egzekwowania pozostaje niepewny w związku z obecnym podejściem administracji pro-innowacyjnej.

To dochodzenie stanowi kluczowy moment w nadzorze regulacyjnym technologii AI, ponieważ incydenty bezpieczeństwa i obawy społeczne rosną w obliczu szybkiego rozwoju AI. Działania FTC mogą wyznaczyć precedensy dotyczące tego, jak szkody konsumenckie związane z AI będą w przyszłości adresowane, równoważąc innowacje z odpowiedzialnością.