OpenAI lanza modelo de IA enfocado en ciberseguridad ante aumento de amenazas digitales

Image: TechCrunch · Source

OpenAI presenta ChatGPT Cyber, un nuevo modelo de IA diseñado para mejorar la defensa cibernética al descubrir y corregir vulnerabilidades de software, en respuesta a las crecientes preocupaciones sobre el hacking asistido por IA.

OpenAI ha presentado un modelo especializado de IA para ciberseguridad llamado ChatGPT Cyber, orientado a identificar y abordar vulnerabilidades de software para proteger infraestructuras digitales críticas. Este lanzamiento ocurre en un contexto donde las herramientas impulsadas por IA cada vez ayudan tanto a defensores de la ciberseguridad como a posibles atacantes.

La importancia de estos modelos fue destacada por Max Justicz, CTO y cofundador de Charge Robotics, quien utilizó un modelo previo de OpenAI, GPT 5.6 Sol, para descubrir una vulnerabilidad grave en el sistema operativo basado en Linux ampliamente usado, Ubuntu. Al instruir a la IA a encontrar errores de igual gravedad a un problema previamente corregido, el modelo halló un exploit complejo que podría permitir a hackers tomar control de servidores si se explotara. Este hallazgo fue reportado al Proyecto Debian, que emitió rápidamente un parche; no hay evidencia de que la vulnerabilidad haya sido explotada en entornos reales.

El modelo recientemente lanzado por OpenAI está accesible para participantes de alto nivel en el programa Daybreak de ciberseguridad de la compañía, específicamente dentro de Daybreak Red, que se enfoca en investigación ofensiva y búsqueda de vulnerabilidades. OpenAI reveló que este modelo analizó recientemente el kernel de Linux e identificó 948 posibles vulnerabilidades, además de descubrir 81 nuevas vulnerabilidades en Firefox, demostrando la capacidad de la IA para potenciar significativamente las auditorías de seguridad.

Para fortalecer los esfuerzos de defensa en la industria, OpenAI ha anunciado una iniciativa de mil millones de dólares para apoyar a profesionales de ciberseguridad que trabajan en sectores de infraestructura crítica como redes eléctricas y sistemas de agua. Sin embargo, el programa ha recibido críticas debido al acceso restringido a características potentes, lo que algunos expertos consideran limita la efectividad de los defensores frente a los atacantes que podrían usar modelos de IA sin restricciones de peso abierto.

A pesar de la participación de miles de expertos en ciberseguridad, la escala queda pequeña frente a la gran cantidad de posibles actores maliciosos. OpenAI reconoce este desequilibrio y dedica una porción sustancial de sus recursos avanzados de computación para la detección y corrección pro bono de vulnerabilidades en código abierto. Sin embargo, el costo de estos esfuerzos, como la búsqueda de bugs en Linux por 1.2 millones de dólares, es modesto comparado con otros proyectos de IA a gran escala.

La aparición de ChatGPT Cyber subraya la urgente necesidad de que la comunidad de ciberseguridad aproveche la tecnología IA de vanguardia con prontitud. A medida que los modelos de IA avanzan, la ventana de riesgo se estrecha, haciendo cada vez más apremiante una coordinación para identificar y arreglar vulnerabilidades y así proteger la infraestructura digital que sustenta la sociedad moderna.