Anthropic propone un proyecto de ley de seguridad de IA que limita el lanzamiento de modelos ante riesgos catastróficos

Image: TechCrunch · Source

Anthropic ha elaborado un proyecto de ley de seguridad de IA que busca bloquear el lanzamiento de modelos que representen riesgos catastróficos inminentes, como más de 50 muertes o miles de millones en daños, requiriendo aprobación judicial para detener su despliegue.

Ante las crecientes preocupaciones sobre los posibles peligros de la inteligencia artificial, el laboratorio de IA Anthropic ha presentado un proyecto de ley centrado en la seguridad de la IA, proponiendo un nuevo marco para regular sistemas avanzados de IA. Según informes de Politico, la legislación propuesta por Anthropic pretende evitar la liberación de modelos de IA que representen un “riesgo previsible e inminente” de resultados catastróficos.

El proyecto establece umbrales específicos para tales riesgos, incluyendo escenarios donde el lanzamiento de un modelo de IA podría causar la muerte de más de 50 personas o resultar en daños a la propiedad por más de mil millones de dólares. Estas consecuencias deben surgir de eventos como la creación o despliegue de un arma biológica, que el modelo de IA eluda los controles de sus desarrolladores o que esté involucrado en un ciberataque. Estos criterios se asemejan a la reciente legislación de California (Senate Bill 53) que define riesgos catastróficos que requieren atención regulatoria.

Para evaluar si un modelo de IA representa tales riesgos, Anthropic propone la utilización de "evaluadores independientes" registrados en el Departamento de Comercio de EE. UU. Estos evaluadores, potencialmente financiados por compañías de IA pero sin condiciones de pago vinculadas a los resultados de la evaluación, revisarían los modelos de IA en busca de riesgos. Si determinan una amenaza catastrófica inminente, deben notificar al Departamento de Comercio en un plazo de 72 horas. Posteriormente, el Departamento de Comercio debe buscar la aprobación de un juez en Washington D.C. para bloquear el lanzamiento del modelo. Cabe destacar que el proyecto prohíbe que cualquier agencia federal detenga de forma independiente el despliegue de un modelo de IA sin consentimiento judicial.

Este marco contrasta con enfoques más autorregulados preferidos por partes de la industria de IA. A pesar de las advertencias sobre riesgos existenciales, muchas compañías han dudado en aceptar una supervisión obligatoria, proponiendo en cambio monitoreo voluntario por evaluadores independientes integrados dentro de las organizaciones de IA. El proyecto de ley de Anthropic, que han promovido ante legisladores federales y estatales desde junio de 2026 como parte de su Marco Avanzado de IA, representa una propuesta regulatoria más firme que la de algunos pares, como Nvidia, que recientemente argumentó en contra de la necesidad de nuevas leyes de IA.

Mientras que las referencias del proyecto de ley a riesgos catastróficos que involucran muertes masivas o daños extensos a la propiedad son más extremas que el enfoque común de la industria en problemas como el hacking agentivo —donde sistemas de IA actúan autónomamente para vulnerar la seguridad— la propuesta busca anticiparse a resultados severos. El énfasis en la supervisión judicial y la evaluación independiente refleja un intento de equilibrar la innovación en IA con garantías de seguridad.

Anthropic no ha ofrecido comentarios públicos detallados más allá de confirmar la existencia del borrador a Politico. El enfoque de la compañía indica una disposición a involucrarse proactivamente en la conformación de la gobernanza de IA, aunque queda por ver la recepción del proyecto en el Congreso y entre otros actores de IA. A medida que continúan las discusiones regulatorias, el proyecto de ley de Anthropic contribuye al debate en evolución sobre cómo gestionar mejor los riesgos de la IA mientras se fomenta el progreso tecnológico.