Ficha informativa
El avance de la inteligencia artificial genera un intenso debate sobre sus riesgos y la necesidad de regulación. Expertos advierten sobre la posibilidad de que esta tecnología represente una amenaza existencial para la humanidad, mientras otros critican las advertencias como exageradas.
Toca para ver el contexto completo
Contexto:
Jacob Coxon, exinvestigador en Anthropic y OpenAI, expresó su preocupación por el avance acelerado de la IA. Otros expertos como Geoffrey Hinton y Marc Warner también han manifestado inquietudes sobre los riesgos asociados a esta tecnología. Dario Amodei propuso desacelerar el desarrollo y aplicar mayor supervisión.
Algunos críticos consideran que las alarmas sobre la IA responden a intereses comerciales. El presidente Donald Trump afirmó que EE.UU. lidera la carrera tecnológica frente a China. Además, se mencionan problemas actuales provocados por la IA, como deepfakes, desinformación masiva y ataques cibernéticos.
Por qué importa:
Las advertencias sobre la IA podrían influir en decisiones regulatorias y en la percepción pública sobre su desarrollo. La propuesta de desaceleración podría afectar a empresas como OpenAI y Anthropic, que buscan mantener su competitividad en el mercado.
Datos clave:
- Fecha de renuncia de Jacob Coxon: 13 de septiembre de 2026
- Edad de Jacob Coxon: 27 años
- Probabilidad estimada por Evan Hubinger: superior al 10%
- Valoración reciente de OpenAI: 852.000 millones de dólares
- Fecha del reporte de Red Uno: 15 de septiembre de 2026
El temor a que el rápido avance de la inteligencia artificial (IA) supere el control humano ha generado un debate entre científicos, empresarios y líderes políticos sobre la seguridad de esta tecnología y la posibilidad de que represente un riesgo existencial para la humanidad.
La discusión cobró fuerza tras la renuncia de Jacob Coxon, un investigador de 27 años que trabajaba en la empresa Anthropic y anteriormente en OpenAI. Según reportó la BBC el 13 de septiembre de 2026, Coxon publicó un mensaje que se volvió viral en el que afirmó que los empleados de las empresas de IA están “genuinamente asustados” por la velocidad del progreso tecnológico.
En entrevistas posteriores, el exinvestigador declaró que, si no se reduce el ritmo actual de desarrollo, existe una alta probabilidad de que toda la humanidad muera en un futuro inmediato, señalando además que algunos trabajadores consideran comprar terrenos debido a la inestabilidad que temen en los próximos dos años, según informó BBC.
A estas advertencias se sumaron otros especialistas del sector. Evan Hubinger, científico de Anthropic especializado en alineación de IA, estimó que existe una probabilidad superior al 10% de que sistemas futuros provoquen la desaparición de la humanidad durante la próxima década, según recogieron tanto la BBC.
El científico informático y premio Nobel Geoffrey Hinton declaró a la cadena británica que una probabilidad del 10% “no es descabellada”, mientras que Marc Warner, director ejecutivo de la empresa de seguridad Faculty, señaló que aunque es difícil calcular una cifra exacta, los investigadores son sinceros en sus preocupaciones.
Ante este escenario, Dario Amodei, director ejecutivo de Anthropic, publicó un ensayo pidiendo ralentizar el desarrollo de la IA y aplicar mayor supervisión para abordar riesgos graves, como la posibilidad de que un enjambre de bots actúe como una supercomputadora capaz de apoderarse de internet, un escenario que Coxon estimó posible en un plazo de seis meses a un año.
Según informó la BBC, los directivos Sam Altman (OpenAI) y Elon Musk (xAI) respaldaron la propuesta de desaceleración y regulación independiente. Asimismo, Altman anunció que OpenAI valorada recientemente en 852.000 millones de dólares no realizará su salida a bolsa este año debido a preocupaciones de seguridad, y el ex primer ministro británico Rishi Sunak expresó en The Sunday Times su inquietud por el riesgo que la tecnología representa.
Por su parte, el medio Red Uno detalló el 15 de septiembre de 2026 que la preocupación central de los especialistas radica en la denominada “alineación de la IA”, es decir, lograr que los sistemas autónomos actúen bajo los valores y límites humanos.
Los investigadores analizan escenarios hipotéticos en los que una IA avanzada pueda mejorarse a sí misma, ejecutar ciberataques, amplificar el espionaje, intervenir en conflictos militares, facilitar armas biológicas o generar alteraciones económicas.
Sin embargo, el reporte aclara que no existe consenso científico sobre la extinción humana ni evidencia de que los sistemas actuales tengan intención de eliminar a las personas, destacando que ralentizar la IA implica aplicar evaluaciones independientes y controles antes de lanzar modelos más potentes, sin detener toda la investigación.
En contraste, diversas figuras de la industria cuestionaron la veracidad y las intenciones detrás de estas advertencias, según informó la BBC. Jensen Huang, director ejecutivo de Nvidia, desestimó los comentarios de Coxon calificándolos de falsos durante una conferencia de Goldman Sachs.
En la misma línea, Clement Delangue, director ejecutivo de Hugging Face, comparó las declaraciones del exinvestigador con pedirle opinión sobre el cambio climático a un técnico de aire acondicionado, aunque posteriormente se ofreció a colaborar en las propuestas de Amodei.
Otros críticos atribuyeron las alertas a intereses comerciales y financieros. George Arison, director ejecutivo de Grindr, sugirió a la BBC que las empresas de IA exageran el alcance de su tecnología para justificar altas valoraciones ante los inversores, mientras otros analistas señalan que Anthropic que prepara una oferta pública inicial y OpenAI buscan impulsar regulaciones para bloquear a la competencia y consolidar un duopolio.
En el plano geopolítico, el presidente estadounidense Donald Trump declaró que Estados Unidos lidera la carrera de la IA frente a China y que busca mantener esa ventaja, factor que Coxon también señaló como clave al advertir que cualquier desaceleración requiere coordinación con el país asiático.
Finalmente, Red Uno señaló que otros expertos piden no desviar la atención de los problemas que la inteligencia artificial ya provoca en la actualidad, entre los que se encuentran la creación de deepfakes (audios, fotos y videos falsos), la desinformación masiva, las estafas mediante suplantación de identidad, la vulneración de la privacidad, los ataques cibernéticos automatizados y la transformación de puestos de trabajo en diversas industrias.
Después de leer
Esta sección propone una forma distinta de interactuar con la información y comprobar qué tan clara quedó la nota.
