Informe revela que el desarrollo de IA de Anthropic se acelera rápidamente en medio de preocupaciones de seguridad

Image: Why a new report on Anthropic automating AI development is alarming researchers · Source

Una investigación de METR encuentra que los modelos de IA de Anthropic mejoran al doble de velocidad que hace un año, impulsados principalmente por asistencia de IA, lo que genera alarma sobre la rápida auto-mejora de la IA y la limitada transparencia pública.

Informe detallado sobre la aceleración del desarrollo de IA en Anthropic

Un informe detallado publicado por el grupo de investigación en seguridad de IA METR revela que Anthropic está utilizando IA para acelerar su propio desarrollo en inteligencia artificial, con modelos de la compañía mejorando aproximadamente al doble del ritmo observado hace solo un año. Este avance rápido se atribuye principalmente a la investigación asistida por IA, que incrementa significativamente la productividad de los empleados, más que a un mero aumento de los recursos computacionales. Según la investigación de 11 semanas de METR, las herramientas internas de IA de Anthropic han permitido a los investigadores trabajar hasta 12 veces más eficientemente en comparación con los niveles de productividad previos a la IA, un incremento que ha crecido en los últimos meses.

El informe destaca que Anthropic ha completado el entrenamiento de tres modelos avanzados de IA en los últimos seis meses, todos permanecen sin lanzar y tienen nombres en clave Modelo 2, Modelo 3 y Modelo 4. Estos modelos recientes sustentan gran parte de las ganancias en productividad y velocidad de la compañía. Sin embargo, Anthropic aplicó extensas censuras en la versión pública del informe de METR, ocultando muchos detalles específicos sobre estos desarrollos. La compañía justificó estas censuras para proteger información comercial sensible y evitar que competidores aceleren a un ritmo similar, una postura que ha generado críticas por su opacidad.

El cofundador de Anthropic, Sam McCandlish, reconoció los compromisos implicados al restringir la información, pero defendió la decisión como necesaria para manejar riesgos asociados con la divulgación de los impulsores detallados de aceleración. Señaló planes para que Anthropic publique su propio informe sobre progreso en IA e iniciativas de seguridad próximas en un futuro cercano.

Estas revelaciones han intensificado el debate dentro de la comunidad de seguridad en IA, ya que Anthropic se posiciona como un líder consciente de la seguridad mientras acelera rápidamente las capacidades de IA. Los expertos enfatizan que tal desarrollo acelerado impulsado por IA podría adelantar los tiempos para sistemas capaces de auto-mejora recursiva — IA que se mejora a sí misma con mínima intervención humana — generando inquietudes sobre la suficiencia de las medidas actuales de seguridad y regulación.

Los críticos también expresan frustración por las llamadas públicas contradictorias de Anthropic para ralentizar el progreso de la IA, en contraste con su trayectoria actual, especialmente dada la gran cantidad de censuras que limitan el análisis independiente. Los llamados a una mayor transparencia, supervisión independiente e integración de investigadores de seguridad en los laboratorios de IA son cada vez más fuertes. Algunos responsables políticos, alarmados por estos desarrollos, abogan por regulaciones más estrictas o prohibiciones totales sobre la investigación en IA de auto-mejora recursiva.

En conjunto, el informe de METR ofrece uno de los vislumbres más claros hasta ahora sobre cómo la investigación avanzada en IA está acelerándose de forma autónoma, pero también destaca desafíos significativos en equilibrar la apertura, las preocupaciones competitivas y la gobernanza de seguridad mientras esta tecnología avanza rápidamente.