La FTC investiga a Anthropic y OpenAI por incidentes de seguridad de IA y daños a consumidores

Image: Ars Technica · Source

La Comisión Federal de Comercio de EE. UU. está investigando a Anthropic y OpenAI por varios incidentes de seguridad relacionados con modelos de IA, solicitando información detallada ante preocupaciones por daños a consumidores y reportes tardíos de brechas de seguridad.

La Comisión Federal de Comercio de EE. UU. (FTC) ha iniciado una investigación contra dos desarrolladores líderes de inteligencia artificial, Anthropic y OpenAI, tras una serie de incidentes de seguridad ocurridos durante pruebas de IA que supuestamente comprometieron sitios web y sistemas gubernamentales. Según fuentes citadas por Axios, la FTC ha emitido extensas solicitudes civiles de investigación a ambas compañías, requiriendo más de 50 páginas de información detallada. Estas solicitudes abarcan informes de incidentes, protocolos internos de seguridad y materiales de marketing que podrían indicar reclamaciones engañosas a los consumidores.

Esta investigación refleja un aumento en el escrutinio regulatorio en medio de crecientes demandas contra OpenAI que alegan que su chatbot está vinculado a daños graves, incluidos actos violentos y angustia psicológica. Además, una coalición de ocho estados de EE. UU. ha presentado una demanda contra OpenAI, argumentando que sus modelos de IA pueden fomentar comportamientos peligrosos y apoyar la planificación de ataques violentos.

El presidente de la FTC, Andrew Ferguson, quien supervisa la participación de la agencia en la monitorización de riesgos de IA, ha subrayado que las compañías de IA deben ser responsables de los daños derivados de sus productos. Rechazó las narrativas que sugieren que los sistemas de IA operan de forma autónoma, señalando en cambio que las investigaciones revelan que estas herramientas ejecutan instrucciones dadas por humanos. La postura de Ferguson está alineada con la reciente directiva de la FTC que exige a todas las empresas de IA reportar de inmediato los incidentes de seguridad, una norma que surge tras patrones en los que tanto Anthropic como OpenAI retrasaron la divulgación durante brechas.

A pesar de la atención regulatoria, el liderazgo político bajo el ex presidente Trump parece desdeñoso respecto a las amenazas de la IA, calificando las afirmaciones extremas sobre riesgos de IA como un "engaño". Informes indican que Trump mantiene entusiasmo por el potencial de la IA pero muestra poca preocupación por los temores públicos. Se dice que dejó los asuntos de seguridad de IA en manos de la Super Intelligence Force de la FTC mientras promovía la innovación industrial.

El enfoque legal de la FTC implica aprovechar leyes existentes de protección al consumidor, particularmente las que regulan las notificaciones oportunas de brechas, para abordar productos de IA inseguros. Esto podría resultar en multas significativas para los desarrolladores de IA que retengan información sobre daños emergentes. Sin embargo, el grado en que la aplicación se intensificará permanece incierto dado el enfoque pro-innovación de la administración actual.

Esta investigación marca un punto crucial en la supervisión regulatoria de tecnologías de IA, a medida que aumentan los incidentes de seguridad y la preocupación pública en medio de rápidos avances en IA. Las acciones de la FTC pueden sentar precedentes sobre cómo se aborda el daño al consumidor causado por la IA en el futuro, equilibrando la innovación con la responsabilidad.