CEO de Anthropic pide desacelerar la carrera de la inteligencia artificial ante crecientes riesgos
Dario Amodei, CEO de Anthropic, pidió reducir el ritmo de desarrollo de nuevos modelos de IA para ganar tiempo frente a los crecientes riesgos de seguridad.
ESTADOS UNIDOS 12 de septiembre de 2026 – Dario Amodei, cofundador y director ejecutivo de Anthropic, hizo un llamado a las principales compañías de inteligencia artificial para reducir el ritmo con el que desarrollan modelos cada vez más poderosos, ante el temor de que sus capacidades avancen más rápido que los mecanismos disponibles para comprenderlas y mantenerlas bajo control.
El ejecutivo considera que la industria atraviesa un momento especialmente delicado por la rapidez con la que están evolucionando estos sistemas y por la posibilidad de que la propia inteligencia artificial participe cada vez más activamente en el desarrollo de generaciones posteriores de modelos.
“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA”, escribió Amodei al exponer su posición. Aclaró, sin embargo, que desacelerar no significa detener el entrenamiento de modelos ni paralizar el progreso tecnológico.
Según informó NBC News, el planteamiento surge en medio de crecientes preocupaciones dentro de la propia industria sobre la posibilidad de que sistemas avanzados desarrollen capacidades difíciles de controlar y puedan ser utilizados para actividades como ciberataques, además de otras formas de uso indebido.
Una de las mayores preocupaciones de Amodei es la denominada mejora recursiva, un escenario en el que sistemas de inteligencia artificial comienzan a participar de manera cada vez más significativa en la construcción y perfeccionamiento de modelos posteriores.
Para el empresario, ese proceso podría acelerar considerablemente el progreso tecnológico y reducir el tiempo disponible para que investigadores, compañías y gobiernos comprendan las nuevas capacidades antes de que aparezcan sistemas todavía más avanzados.
La preocupación aumentó después de recientes pruebas con agentes de inteligencia artificial. Amodei mencionó un incidente relacionado con OpenAI y Hugging Face en el que un grupo de agentes realizó acciones de ciberseguridad que no formaban parte de las tareas inicialmente asignadas y trató de interferir con el sistema utilizado para evaluar su comportamiento.
El responsable de Anthropic considera que un conjunto de agentes con capacidades mucho mayores y un nivel similar de desalineación podría provocar consecuencias considerablemente más graves. Incluso planteó un escenario en el que sistemas mucho más avanzados podrían generar daños económicos de enorme magnitud mediante operaciones cibernéticas.
De acuerdo con La República, el CEO de Anthropic sostiene que las compañías necesitan disponer de más tiempo para alinear y proteger sus modelos antes de continuar aumentando rápidamente sus capacidades. Su propuesta incluye permitir que evaluadores independientes puedan examinar los sistemas y comprobar las medidas de seguridad adoptadas por los laboratorios.
El planteamiento contempla precisamente abrir parte de los procesos internos a terceros especializados. Anthropic propone conceder a evaluadores externos un nivel de acceso suficientemente amplio para comprobar el funcionamiento de los modelos y determinar si las compañías están aplicando correctamente sus propios protocolos de seguridad.
Amodei también considera necesaria una coordinación más amplia entre los principales desarrolladores de inteligencia artificial. Uno de los problemas es que las compañías compiten por construir los modelos más avanzados y ninguna quiere reducir unilateralmente su velocidad mientras sus competidores continúan avanzando.
Ese escenario puede generar una carrera en la que los incentivos comerciales terminen imponiéndose sobre las precauciones de seguridad. Por ello, el ejecutivo plantea establecer estándares compartidos que permitan disminuir la presión competitiva sin detener completamente la innovación.
La advertencia llega pocos días después de que Jacob Coxon, investigador especializado en seguridad que trabajó tanto en OpenAI como en Anthropic, abandonara esta última compañía y cuestionara públicamente la velocidad con la que los principales laboratorios están desarrollando sistemas cada vez más capaces.
Coxon sostuvo que las empresas participan en una carrera tecnológica cuyas consecuencias podrían ser extremadamente graves si los sistemas llegan a superar ampliamente determinadas capacidades humanas sin que existan mecanismos suficientes para garantizar su control.
Amodei mantiene, no obstante, que la inteligencia artificial puede producir enormes beneficios científicos, económicos y sociales. Su posición no plantea abandonar esa tecnología, sino modificar la velocidad de la carrera para disponer de más tiempo destinado a comprender, evaluar y proteger los sistemas antes de aumentar nuevamente sus capacidades.
El debate se traslada ahora a cómo conseguir una desaceleración coordinada sin paralizar la innovación ni generar ventajas para compañías o países que decidan continuar avanzando sin las mismas restricciones. Para Anthropic, el desafío consiste en evitar que la carrera por construir la inteligencia artificial más poderosa termine avanzando más rápido que la capacidad humana para mantenerla bajo control.
Con información de NBC y La República.
A.U.