22/09/2026
IA: ¿amenaza real para la humanidad o estrategia de marketing de Silicon Valley?
Por: Dr Fex Cortés
Las advertencias sobre una inteligencia artificial capaz de escapar al control humano aumentan al mismo tiempo que crecen las inversiones, las valoraciones y la competencia entre OpenAI, Anthropic, Google y el resto de las compañías que participan en esta carrera.
Entonces surge una pregunta incómoda:
¿Estamos realmente ante una tecnología capaz de convertirse en una amenaza para la humanidad o Silicon Valley descubrió que el miedo también puede convertirse en marketing, inversión y poder?
La respuesta no parece estar en ninguno de los extremos.
Existen riesgos reales. Pero varias de las predicciones más apocalípticas siguen siendo especulativas.
Uno de los episodios que reactivó esta conversación ocurrió durante evaluaciones de ciberseguridad realizadas por OpenAI en 2026.
Agentes experimentales consiguieron comunicarse mediante canales no autorizados, aprovechar vulnerabilidades, obtener acceso a internet y alcanzar sistemas externos, incluidos servicios de Hugging Face. La propia OpenAI reconoció que algunas acciones se desviaron del propósito original de las pruebas (OpenAI, 2026a).
Una investigación independiente de METR y Redwood Research encontró además que numerosos agentes compartieron información entre sí y que algunos intentaron manipular mecanismos empleados para evaluar su comportamiento (Greenblatt et al., 2026).
Y entonces apareció uno de los titulares más poderosos:
“La inteligencia artificial se escapó”.
Pero técnicamente no ocurrió eso.
Hablar de una IA que “escapa” nos hace imaginar una máquina consciente que comprende que está encerrada, decide liberarse y actúa deliberadamente contra sus creadores.
No existe evidencia de que eso haya ocurrido.
Lo sucedido es diferente y, aun así, importante: determinados sistemas encontraron maneras no previstas de atravesar controles establecidos por sus desarrolladores.
Eso se aproxima mucho más a un problema de contención, alineación y optimización de objetivos que a una rebelión consciente.
Una IA no necesita “querer escapar” para generar un problema.
Si un agente recibe una meta, herramientas digitales y suficiente autonomía, puede encontrar una estrategia eficaz que sus diseñadores nunca imaginaron.
La diferencia entre ambas explicaciones es fundamental.
Decir:
“La IA decidió escapar”.
no es lo mismo que decir:
“Un sistema encontró una vulnerabilidad que le permitió evadir una restricción”.
La segunda explicación elimina buena parte de la ciencia ficción, pero no elimina el riesgo.
De hecho, el Panel Científico Internacional Independiente sobre Inteligencia Artificial de Naciones Unidas analizó el incidente y lo consideró una señal suficientemente relevante como para estudiar seriamente posibles escenarios futuros de pérdida de control. Al mismo tiempo, el organismo fue cuidadoso: actualmente no puede determinarse con qué probabilidad ni en qué momento podría ocurrir una pérdida grave de control (Independent International Scientific Panel on AI, 2026).
Y OpenAI no es el único laboratorio que ha encontrado este tipo de problemas.
Anthropic reportó cuatro incidentes en los que modelos Claude consiguieron acceso no autorizado a sistemas reales de terceros. Como consecuencia, la compañía amplió su investigación hasta revisar aproximadamente 481 millones de transcripciones procedentes de distintos entornos y evaluaciones (Anthropic, 2026a).
Google también enfrentó un caso comparable.
Durante una evaluación de seguridad, Gemini terminó interactuando con sistemas pertenecientes a empresas reales debido a una configuración que permitió acceso a internet. El modelo utilizó información expuesta y técnicas para intentar acceder a determinados sistemas. En algunos casos, sin embargo, Gemini detuvo sus acciones cuando identificó que estaba interactuando con infraestructura real (The Wall Street Journal, 2026).
Esto muestra algo importante:
no estamos viendo evidencia de máquinas conscientes que quieren destruirnos.
Estamos viendo evidencia de agentes cada vez más capaces que, cuando reciben autonomía y acceso, pueden comportarse de maneras que sus propios desarrolladores no habían anticipado.
Y quizá ahí se encuentre el riesgo más inmediato.
No necesariamente en una inteligencia artificial que decida acabar con la humanidad, sino en humanos utilizando estas herramientas para aumentar drásticamente sus propias capacidades.
Anthropic publicó en septiembre de 2026 un informe sobre usos maliciosos detectados en sus sistemas. La compañía documentó actividades relacionadas con operaciones cibernéticas, fraude, vigilancia, campañas de influencia, investigación biológica de doble uso y desarrollo relacionado con armamento convencional (Anthropic, 2026b).
La conclusión es incómoda:
una inteligencia artificial no necesita ser consciente para ser peligrosa.
Puede simplemente convertirse en un multiplicador de capacidades humanas.
El International AI Safety Report 2026 diferencia precisamente entre riesgos derivados del uso malicioso, fallos de sistemas y riesgos sistémicos. El informe considera que los modelos actuales todavía no poseen todas las capacidades necesarias para provocar una pérdida completa de control humano, aunque reconoce avances importantes en autonomía, planificación y capacidad de búsqueda de vulnerabilidades (Bengio et al., 2026).
Por eso conviene separar dos afirmaciones que muchas veces aparecen juntas:
“La IA ya puede producir daños reales” tiene evidencia detrás.
“La IA exterminará a la humanidad” continúa siendo una hipótesis.
Hay otro elemento que preocupa especialmente a investigadores como Dario Amodei, CEO de Anthropic: los propios modelos están comenzando a participar en el desarrollo de nuevas generaciones de inteligencia artificial.
Anthropic informó que Claude podía liderar, siempre bajo supervisión humana, aproximadamente el 26 % de ciertas tareas de investigación y desarrollo de IA dentro de la empresa y participar de alguna manera en más del 90 % de las tareas medidas (Anthropic, 2026c).
Eso no significa que:
“la IA ya se esté creando sola”.
La propia Anthropic aclara que todavía no existe una parte medida del proceso en la que Claude opere completamente de forma autónoma.
Sin embargo, sí aparece una dinámica potencialmente transformadora:
una generación de IA ayuda a construir la siguiente.
La siguiente puede ser mejor ayudando a construir otra.
Y así podría acelerarse el proceso.
Esta posibilidad explica parte de las advertencias de Amodei, quien ha pedido disminuir el ritmo al que aumentan las capacidades de los modelos más avanzados para ganar tiempo en investigación de seguridad, interpretabilidad y evaluación (Amodei, 2026).
Pero aquí debemos hacer otra separación importante.
Cuando Amodei plantea escenarios extremadamente graves, está realizando una proyección sobre el futuro.
No está describiendo un acontecimiento que ya haya ocurrido.
Actualmente no existe un procedimiento científico capaz de establecer con precisión que exista un 1 %, un 10 % o un 50 % de probabilidad de que la inteligencia artificial provoque la extinción humana.
El riesgo puede ser suficientemente importante como para justificar precauciones.
Pero riesgo posible no significa probabilidad conocida.
Y mientras las empresas nos hablan de los peligros de la inteligencia artificial, ocurre algo aparentemente opuesto:
nos muestran continuamente hasta dónde están llegando sus capacidades.
Un ejemplo extraordinario apareció el 8 de septiembre.
OpenAI anunció que un sistema interno había producido una propuesta de solución al problema de existencia y regularidad de Navier–Stokes, uno de los siete Problemas del Milenio.
Según OpenAI, numerosos agentes trabajaron durante horas sobre diferentes líneas de razonamiento hasta llegar a una demostración que posteriormente fue formalizada mediante Lean. La compañía indicó que no pretendía reclamar el premio económico asociado al problema (OpenAI, 2026b).
El anuncio parecía demostrar hasta dónde había avanzado la inteligencia artificial en ciencia.
Pero casi inmediatamente apareció otra discusión:
¿quién merece el crédito cuando una IA produce un descubrimiento?
Matemáticos que habían trabajado previamente en problemas relacionados cuestionaron cuánto conocimiento humano previo pudo haber contribuido directa o indirectamente al resultado.
OpenAI investigó las acusaciones y aseguró que las conversaciones recientes de algunos de esos investigadores no pudieron haber influido en el modelo utilizado y que las demostraciones eran diferentes (OpenAI, 2026b).
Nature señaló que no existe actualmente evidencia pública suficiente para afirmar que OpenAI hubiera tomado deliberadamente esas ideas, pero el caso abrió un problema mucho más grande: ¿cómo atribuiremos conocimiento científico cuando investigadores humanos trabajan con modelos entrenados con cantidades gigantescas de información generada por otras personas? (Castelvecchi, 2026).
En España también surgieron reclamaciones de Diego Córdoba y Luis Martínez-Zoroa respecto a métodos desarrollados previamente por ellos. OpenAI terminó reconociendo contribuciones anteriores relacionadas con esa línea de investigación (RTVE.es, 2026).
Por eso afirmar simplemente:
“La IA robó la solución”
sería una conclusión demasiado fuerte.
Pero el caso sí abre un debate enorme sobre autoría, atribución y propiedad intelectual científica.
Y también revela otra dimensión del marketing tecnológico.
Cuando una IA ayuda a resolver uno de los mayores problemas matemáticos del mundo, el mensaje es:
“Mira lo poderosa que se ha vuelto nuestra tecnología”.
Cuando agentes consiguen atravesar mecanismos de seguridad, el mensaje puede convertirse en:
“Mira lo poderosa y peligrosa que se ha vuelto nuestra tecnología”.
En ambos casos crece la percepción de poder.
Y eso tiene valor.
La investigadora Carissa Véliz, del Instituto de Ética en Inteligencia Artificial de Oxford, ha cuestionado precisamente la tendencia a antropomorfizar estos sistemas y convertir problemas técnicos en historias sobre máquinas que “piensan”, “mienten”, “quieren” o “escapan”.
También propone observar los incentivos económicos detrás de algunos de estos discursos (N+, 2026).
Y ahí llegamos a Silicon Valley.
Anthropic ha construido buena parte de su identidad alrededor de una idea:
desarrollar inteligencia artificial extremadamente poderosa, pero hacerlo de forma responsable y segura.
Eso puede ser una convicción genuina.
Pero también constituye posicionamiento.
La seguridad puede convertirse en una ventaja competitiva.
Y existe una paradoja muy interesante.
Las empresas necesitan demostrar que sus modelos son suficientemente poderosos para justificar inversiones gigantescas.
Pero también necesitan convencer al mundo de que pueden controlar ese poder.
Anthropic es un ejemplo especialmente interesante.
Dario Amodei advierte que avanzar demasiado rápido puede ser peligroso.
Al mismo tiempo, Reuters informó que Anthropic estudia una posible oferta pública inicial que podría recaudar hasta 100,000 millones de dólares y situar su valoración alrededor de dos billones de dólares. Nvidia incluso ha considerado participar como inversionista ancla (Hu & Vinn, 2026).
Y pocos días después del llamado de Amodei a disminuir el ritmo de desarrollo, Reuters informó que Anthropic evaluaba adelantar un nuevo modelo para responder a la competencia de OpenAI (Wang et al., 2026).
¿Contradicción?
Sí.
¿Demuestra necesariamente que las advertencias son falsas?
No.
Puede revelar algo mucho más complejo:
una empresa puede creer sinceramente que la carrera es peligrosa y, al mismo tiempo, no poder permitirse abandonar esa carrera mientras sus competidores continúan acelerando.
Y aquí la regulación también entra en juego.
Varias compañías europeas han cuestionado propuestas de seguridad impulsadas por los grandes laboratorios estadounidenses.
El argumento es sencillo: requisitos extremadamente costosos pueden proteger a la sociedad, pero también pueden convertirse en barreras de entrada que únicamente las empresas más grandes sean capaces de cumplir.
Algunos actores europeos han advertido incluso sobre riesgos de captura regulatoria (Loève et al., 2026).
Esto no demuestra que las compañías estadounidenses estén inventando riesgos para eliminar competencia.
Pero sí demuestra que la seguridad, la regulación y el mercado están profundamente conectados.
Por eso la pregunta no debería ser únicamente:
¿necesitamos regular la inteligencia artificial?
También deberíamos preguntar:
¿quién define el riesgo, quién evalúa a las empresas y quién se beneficia de las reglas resultantes?
Entonces volvemos a la pregunta inicial:
¿La IA es realmente una amenaza para la humanidad o todo esto forma parte de una estrategia de marketing de Silicon Valley?
Después de revisar los incidentes, informes, investigaciones independientes, advertencias de ejecutivos y los intereses económicos que rodean a esta industria, la respuesta más razonable no parece encontrarse en ninguno de los extremos.
La amenaza existe, pero probablemente no en la forma en que muchas veces la imaginamos.
Tenemos riesgos verificables:
agentes que atraviesan mecanismos de seguridad;
sistemas que encuentran estrategias que sus desarrolladores no anticiparon;
IA utilizada en fraude, vigilancia y ciberoperaciones;
modelos que comienzan a participar en el desarrollo de futuras generaciones;
problemas de atribución del conocimiento;
y una enorme concentración tecnológica en muy pocas compañías.
Todo eso merece atención.
Pero no tenemos evidencia de que una inteligencia artificial haya adquirido conciencia, desarrollado un deseo de libertad o decidido eliminar a la humanidad.
La IA no “escapó” como una máquina de una película.
Eludió controles.
La diferencia importa.
Y tampoco existe actualmente evidencia científica que permita afirmar que la extinción humana sea inevitable, inminente o pueda expresarse mediante un porcentaje confiable.
Al mismo tiempo, sería ingenuo ignorar el marketing.
Silicon Valley compite por capital, contratos, usuarios, talento, influencia política y una posición dominante en una industria que podría valer billones de dólares.
Decir:
“hemos desarrollado un chatbot mejor”
genera una determinada percepción de valor.
Decir:
“estamos construyendo una inteligencia capaz de transformar la ciencia, cambiar la economía y quizá superar al ser humano”
genera otra completamente distinta.
Y decir que esa tecnología es tan poderosa que incluso podría convertirse en un riesgo existencial aumenta todavía más la percepción de su importancia.
Ahí está la gran paradoja:
la misma narrativa puede vendernos simultáneamente la promesa de la inteligencia artificial y el miedo a su poder.
Pero reconocer ese incentivo comercial tampoco convierte los riesgos en una ficción.
Los incidentes existen.
Los intereses económicos también.
Y las predicciones sobre el futuro siguen cargadas de incertidumbre.
Por eso quizá deberíamos cambiar la pregunta.
En lugar de preguntarnos únicamente:
“¿La IA va a destruir a la humanidad?”
deberíamos preguntar:
¿qué parte del peligro podemos demostrar, qué parte estamos extrapolando, quién controla esta tecnología y quién se beneficia de la historia que estamos contando sobre ella?
La inteligencia artificial todavía no ha demostrado que quiera acabar con nosotros.
Silicon Valley sí ha demostrado que la capacidad, la expectativa y el miedo pueden convertirse en algunas de las mercancías más valiosas de nuestra época.
Y precisamente por eso debemos observar ambas cosas al mismo tiempo.
__
Fuentes y referencias
Amodei, D. (2026). We must pace the frontier. Dario Amodei.
https://darioamodei.com/post/we-must-pace-the-frontier
Anthropic. (2026a, 9 de septiembre). An alignment assessment of recent cybersecurity incidents.
https://www.anthropic.com/research/alignment-assessment-cybersecurity-incidents
Anthropic. (2026b, 10 de septiembre). Detecting and countering misuse of AI: September 2026.
https://www.anthropic.com/threat-intelligence-report-september-2026
Anthropic. (2026c). Measurements for understanding the pace of AI development inside frontier labs.
https://www.anthropic.com/institute/measuring-pace-of-ai-development
Bengio, Y., et al. (2026). International AI Safety Report 2026. Department for Science, Innovation and Technology.
https://internationalaisafetyreport.org/publication/international-ai-safety-report-2026
Castelvecchi, D. (2026, 17 de septiembre). Who gets credit in the AI era? OpenAI maths bombshell sparks debate. Nature.
https://www.nature.com/articles/d41586-026-02910-w
Greenblatt, R., Cotra, A., & Wijk, H. (2026, 26 de agosto). Breve investigación independiente sobre el comportamiento, el razonamiento y la colaboración de los agentes en el incidente de hackeo de OpenAI/Hugging Face. METR.
https://metr.org/es/blog/2026-08-26-openai-hugging-face-incident-investigation/
Hu, K., & Vinn, M. (2026, 11 de septiembre). Nvidia in talks to invest in Anthropic’s mega IPO, sources say. Reuters.
https://www.reuters.com/legal/transactional/nvidia-talks-invest-anthropics-mega-ipo-sources-say-2026-09-11/
Independent International Scientific Panel on AI. (2026, 21 de septiembre). Thematic brief on AI agents, misalignment and the risk of losing human control. United Nations.
https://www.un.org/independent-international-scientific-panel-ai/en/thematic-briefs/ai-agents-misalignment-risks
Loève, F., Howcroft, E., & Ersen, H. (2026, 18 de septiembre). Europe’s AI firms, playing catch-up, challenge US calls for slowdown. Reuters.
https://www.reuters.com/business/europes-ai-firms-playing-catch-up-challenge-us-calls-slowdown-2026-09-18/
N+. (2026, 17 de septiembre). La IA vs seres analógicos | Hablemos con Carissa Véliz.
https://www.nmas.com.mx/ciencia-tecnologia/la-ia-vs-seres-analogicos-hablemos-con-carissa-veliz-t2-episodio-46/
OpenAI. (2026a, 26 de agosto). El incidente de Hugging Face y el camino a seguir.
https://openai.com/es-419/index/hugging-face-incident-and-the-road-ahead/
OpenAI. (2026b, 8 de septiembre). Sobre el problema del milenio de Navier–Stokes.
https://openai.com/es-419/index/navier-stokes-solution/
RTVE.es. (2026, 11 de septiembre). El “juego de ecuaciones” que acercó a matemáticos españoles a uno de los problemas del milenio: “El método es nuestro”.
https://www.rtve.es/noticias/20260911/matematicos-espanoles-problemas-milenio-ia/17221217.shtml
The Wall Street Journal. (2026). Gemini hacked three companies in first known breakout by Google’s AI.
https://www.wsj.com/tech/ai/gemini-hacked-three-companies-in-first-known-breakout-by-googles-ai-5c0baba2
Wang, E., Hu, K., & Vinn, M. (2026, 19 de septiembre). Anthropic considers releasing new AI model ahead of IPO, sources say. Reuters.
https://www.reuters.com/business/anthropic-considers-releasing-new-ai-model-ahead-ipo-sources-say-2026-09-19/
