Líderes en IA advierten sobre crecientes amenazas en ciberseguridad en medio de llamados a medidas de seguridad más estrictas

Image: Illustrative image · National Academies - Earth and Life Studies · CC BY 3.0 · Source

Ejecutivos de Google DeepMind y Microsoft instan a mejorar los protocolos de seguridad en IA y a una regulación internacional para prevenir el aumento de ciberataques, subrayando la necesidad de innovación defensiva junto al desarrollo de IA.

En la Cumbre Internacional de IA en Dublín, figuras clave en inteligencia artificial expresaron preocupación por los crecientes riesgos de ciberseguridad que presentan las tecnologías de IA. Demis Hassabis, cofundador de Google DeepMind, describió los ataques cibernéticos recientes habilitados por IA como “disparos de advertencia temprana” que señalan el potencial de incidentes más graves si no se implementan medidas de seguridad mejoradas por parte de empresas y gobiernos.

Hassabis recomendó adoptar prácticas de seguridad de campos altamente regulados como la biología y la tecnología nuclear, proponiendo el uso de entornos seguros y aislados para probar rigurosamente los sistemas de IA antes de su despliegue en línea. Enfatizó la necesidad de fortalecer las defensas de ciberseguridad para superar a los atacantes, sugiriendo que sectores como la banca y el gobierno podrían usar la IA para detectar y remediar proactivamente vulnerabilidades de software antes de su liberación amplia.

Además, Hassabis reiteró el llamado a establecer un organismo de estándares internacional para supervisar la seguridad en IA. Subrayó que dicha regulación debe ser adaptable para seguir el ritmo de los rápidos avances tecnológicos sin obstaculizar la innovación.

Apoyando esta postura, el presidente y CEO de Microsoft, Brad Smith, describió al próximo año 2026 como un período crítico para la seguridad en IA, defendiendo una regulación “sensata” y “equilibrada”. Smith destacó que ninguna empresa o tecnología debería operar fuera de la supervisión legal y citó la reubicación estratégica de 34,000 ingenieros de Microsoft desde desarrollo de producto hacia esfuerzos de ciberseguridad como una medida difícil pero necesaria. También criticó la resistencia dentro de la industria de IA hacia las medidas regulatorias, describiéndola como una “alergia” que debe superarse.

Paralelamente, Google DeepMind y Google Cloud anunciaron una iniciativa colaborativa para fortalecer la investigación en IA en Europa. Planean ofrecer acceso a modelos avanzados de IA y $3 millones en créditos computacionales a hasta 200 investigadores europeos. Este programa, parte de la iniciativa europea IA para la Ciencia conocida como Recurso para la Ciencia de IA en Europa (RAISE), busca ayudar a científicos a enfrentar desafíos complejos como predecir eventos climáticos extremos y mapear estructuras moleculares mediante herramientas avanzadas de IA incluyendo AlphaFold 3 y AlphaGenome.

Estos desarrollos subrayan un reconocimiento creciente entre líderes del sector IA sobre la urgente necesidad de marcos robustos de seguridad y gobernanza cooperativa para proteger los avances en IA y apoyar los avances científicos.