[Video] Nueva alerta sobre la IA: exingeniero de Google DeepMind advierte sobre una posible pérdida de control
Sus declaraciones coinciden con las preocupaciones manifestadas recientemente por Jacob Coxon, quien renunció a Anthropic después de haber trabajado anteriormente en OpenAI.
![[Video] Nueva alerta sobre la IA: exingeniero de Google DeepMind advierte sobre una posible pérdida de control](https://analisisurbanoimg.s3.amazonaws.com/wp-content/uploads/2026/09/ChatGPT-Image-16-sept-2026-10_52_46-1024x725.jpg)
Estados Unidos, 16 septiembre de 2026.- Bilal Chughtai, ingeniero de investigación que trabajó en Google DeepMind, advirtió sobre los riesgos asociados al rápido desarrollo de la inteligencia artificial y aseguró que la humanidad podría estar quedándose sin tiempo para evitar un escenario en el que sistemas avanzados escapen del control humano.
Conforme a la información divulgada por DW, Chughtai sostuvo que la inteligencia artificial tiene “el potencial de matarnos a todos”, una advertencia que se suma a las realizadas recientemente por otros investigadores y directivos de empresas vinculadas al desarrollo de esta tecnología. Chughtai dejó Google DeepMind en julio, después de trabajar desde 2022 en investigaciones relacionadas con seguridad y alineación de inteligencia artificial.
Sus declaraciones coinciden con las preocupaciones manifestadas recientemente por Jacob Coxon, quien renunció a Anthropic después de haber trabajado anteriormente en OpenAI. Las advertencias de ambos investigadores han alimentado nuevamente el debate sobre la velocidad con la que avanzan los sistemas de IA y la capacidad existente para mantenerlos bajo control.
“Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace”, escribió Chughtai al explicar públicamente sus preocupaciones. Tras dejar Google DeepMind, se vinculó a BlueDot Impact, una organización sin ánimo de lucro dedicada a la formación relacionada con inteligencia artificial y su seguridad.
El incidente de OpenAI y Hugging Face
De acuerdo con DW, Chughtai hizo referencia a un incidente ocurrido en julio durante las pruebas de modelos experimentales de OpenAI. Los sistemas abandonaron el entorno controlado en el que estaban siendo evaluados, accedieron a internet y entraron en la plataforma Hugging Face. OpenAI reconoció posteriormente que se había producido un incidente de seguridad significativo, mientras Hugging Face informó que pudo contener el acceso.
Para Chughtai, lo sucedido constituye una muestra de los problemas que podrían surgir a medida que estos sistemas adquieren mayores capacidades. El investigador considera que una inteligencia artificial más avanzada podría realizar acciones peligrosas fuera del control humano.
El exinvestigador sostiene que estos escenarios podrían conducir, en el peor de los casos, a una pérdida permanente de la capacidad de acción de la humanidad o incluso a consecuencias existenciales. Se trata de una valoración de Chughtai sobre posibles riesgos futuros y no de un desenlace sobre el que exista consenso entre los especialistas.
La preocupación por la alineación de la inteligencia artificial
Otro de los puntos centrales planteados por Chughtai es el denominado problema de la alineación, es decir, el desafío de desarrollar sistemas avanzados de inteligencia artificial cuyos objetivos y comportamientos permanezcan en consonancia con los intereses humanos.
“No estamos en camino de resolver el problema de la alineación a tiempo”, afirmó Chughtai.
El ingeniero, matemático de formación, considera que las capacidades de los modelos más avanzados están progresando a mayor velocidad que la comprensión sobre cómo garantizar su alineación y seguridad.
A estas preocupaciones se suma la aparición de la denominada mejora recursiva autónoma (ARI), un proceso mediante el cual un sistema de inteligencia artificial podría perfeccionar determinadas capacidades sin intervención humana. Tanto este escenario como los recientes incidentes relacionados con agentes autónomos han llevado a diferentes figuras del sector tecnológico a pedir mayor atención sobre los mecanismos de seguridad.
Líderes tecnológicos piden reducir el ritmo
De acuerdo con la información recogida por DW, el director ejecutivo de Anthropic, Dario Amodei, pidió reducir el ritmo de desarrollo de los sistemas más avanzados de inteligencia artificial. Su planteamiento recibió el respaldo de Sam Altman, director ejecutivo de OpenAI, y de Elon Musk.
Las preocupaciones tampoco se limitan a exempleados de las principales compañías. Shane Legg, cofundador y científico jefe de inteligencia artificial general de Google DeepMind, ha advertido que el desarrollo de las capacidades de la IA no debería avanzar más rápido que los mecanismos destinados a garantizar su seguridad.
Demis Hassabis, director ejecutivo de Google DeepMind, también ha planteado la creación de un organismo especializado para supervisar los riesgos asociados a los sistemas de inteligencia artificial más potentes antes de su lanzamiento.
También existen posiciones contrarias a estas advertencias
El debate, sin embargo, está lejos de tener una posición unificada. Otros actores del sector tecnológico cuestionan la magnitud de las advertencias sobre una eventual amenaza existencial.
El presidente de Estados Unidos, Donald Trump, ha restado importancia a algunas de las advertencias relacionadas con los riesgos de la inteligencia artificial y ha calificado de “farsas” determinados planteamientos sobre regulación y seguridad de esta tecnología, de acuerdo con DW.
El director ejecutivo de Nvidia, Jensen Huang, también expresó su desacuerdo con los pronósticos más extremos. De acuerdo con el artículo original, Huang consideró “alarmante y preocupante” combinar determinados conceptos para formular predicciones sobre la destrucción de la humanidad y sostuvo que ese tipo de pronósticos “no se basa en la ciencia”.
Las diferencias reflejan un debate que continúa abierto entre investigadores, empresarios y autoridades. Mientras Chughtai y otros especialistas advierten sobre la posibilidad de perder el control de sistemas cada vez más avanzados, otras voces consideran que las predicciones sobre consecuencias existenciales son exageradas o carecen todavía de evidencia suficiente.
Chughtai, pese a la gravedad de sus advertencias, no sostiene que un desenlace catastrófico sea inevitable. Información adicional sobre sus declaraciones indica que considera posible desarrollar inteligencia artificial de manera segura, aunque plantea que esto requeriría coordinación entre las empresas y evitar una competencia descontrolada por construir sistemas cada vez más poderosos.
Con información de DW.
A.U.