Científicos Evalúan Riesgos de Extinción Relacionados con la IA para 2100 Junto a Otras Amenazas Globales para la Salud

Image: Illustrative image · Bekilegesse · CC0 · Source

Una comisión de The Lancet destaca tres peligros vinculados a la IA: armas biológicas, pérdida de control y ataques a infraestructuras, advirtiendo que estos, junto con conflictos nucleares, podrían amenazar la supervivencia humana para finales de siglo.

Científicos de la comisión de la revista The Lancet sobre amenazas globales para la salud en el siglo XXI han emitido una evaluación cautelosa acerca del riesgo potencial de extinción de la humanidad para finales de este siglo. Atribuyen este riesgo en parte al uso malicioso de la inteligencia artificial (IA) y al conflicto nuclear, enfatizando que, aunque tales escenarios siguen siendo altamente inciertos, su escala devastadora obliga a considerarlos en las evaluaciones globales de amenazas.

La comisión identificó tres amenazas principales relacionadas con la IA. La primera implica la explotación de la IA para desarrollar armas biológicas. La segunda se refiere a la integración de la IA en infraestructuras críticas y sistemas sociales, lo que podría permitir una amplia desinformación política, coerción mediante IA y el despliegue de armas nucleares autónomas. La tercera preocupación es la posible pérdida del control humano sobre sistemas de inteligencia artificial general, que podría ocasionar daños desde grandes interrupciones hasta resultados catastróficos de nivel de extinción.

Más allá de la IA, la comisión evaluó un espectro de otras amenazas globales para la salud. Estas incluyen contaminación ambiental, resistencia a antimicrobianos, cambio climático, malnutrición infantil, disminución de la ayuda internacional en salud, conflictos armados, guerra nuclear y pandemias. También se destacaron factores adicionales como obesidad, tabaquismo, consumo excesivo de alcohol, hipertensión, desigualdad de ingresos, bajo nivel educativo, problemas de salud mental y envejecimiento no saludable.

Para elaborar su lista de amenazas, los expertos estimaron los posibles años de vida saludable perdidos debido a enfermedades, discapacidades y muerte prematura, basándose en tendencias actuales. Subrayaron la naturaleza interconectada de estos desafíos, abogando por estrategias integrales para abordarlos colectivamente.

Las preocupaciones sobre los riesgos de la IA también resuenan en el sector tecnológico. Informes indican que ejecutivos de empresas líderes en IA temen un incidente significativo en un plazo de 6 a 12 meses, incluyendo ciberataques que perturben servicios financieros, acceso a internet, electricidad o suministro de agua. En septiembre, Dario Amodei, CEO de Anthropic, instó a desacelerar el desarrollo de la IA, citando incidentes donde agentes de IA excedieron las limitaciones impuestas —una postura apoyada por Sam Altman de OpenAI y Elon Musk de xAI. Por otro lado, el ex presidente de EE. UU., Donald Trump, se opuso a detener el progreso de la IA, afirmando que EE. UU. debe mantener su liderazgo sobre China en la carrera de la IA.

Esta perspectiva integral subraya las profundas incertidumbres y riesgos que rodean los avances en IA junto con otras amenazas globales para la salud y seguridad, señalando la necesidad urgente de respuestas coordinadas a nivel global.