En los últimos meses, las advertencias sobre los peligros potenciales de la inteligencia artificial (IA) han desencadenado llamados globales para desacelerar el desarrollo de esta tecnología. Declaraciones de investigadores en activo y excolaboradores de laboratorios líderes han encendido las alarmas al señalar que el ritmo de progreso podría poner en riesgo la supervivencia humana. El debate se centra en si la IA superinteligente —aquella capaz de superar la capacidad cognitiva del ser humano en todos los campos— representa una amenaza existencial real o si los temores han sido amplificados de forma desproporcionada.

¿Por qué existe temor a que la IA represente una amenaza existencial? Las alertas provienen directamente de especialistas abocados a la alineación de la IA, el área encargada de garantizar que los sistemas respondan a los valores éticos humanos. Expertos como Evan Hubinger han acaparado portadas tras sostener que existe más de un 10 % de probabilidades de que la IA provoque la extinción de la humanidad en la próxima década si se pierde el control sobre su desarrollo.

Asimismo, investigadores que han renunciado a empresas de vanguardia como Anthropic señalan que los creadores de esta tecnología están perdiendo el control ante la velocidad de los avances. El temor central no radica en las herramientas cotidianas utilizadas para redactar textos o editar videos, sino en la búsqueda de la superinteligencia y en el despliegue de agentes de IA capaces de ejecutar acciones de manera autónoma, mejorar su propio código sin intervención humana e incluso vulnerar infraestructuras sin recibir instrucciones previas. | Riesgo reportado | Descripción y mecanismo de impacto | |---|---| | Pérdida de alineación y autocontrol | Sistemas capaces de reescribir su propio código y operar de manera independiente sin supervisión humana. | | Guerra cibernética y biológica | Uso de la IA para dirigir ciberataques complejos, espionaje avanzado o automatización de amenazas biológicas. | | Riesgos inmediatos no existenciales | Generación de deepfakes sin consentimiento, desinformación masiva, fraudes y vulneración de derechos humanos. | | Desestabilización económica | Perturbación profunda de los mercados laborales y de la infraestructura financiera global. | ¿Qué proponen las grandes empresas de IA para desacelerar el desarrollo? Directivos de la industria como Sam Altman (CEO de OpenAI) y Dario Amodei (CEO de Anthropic) han abogado por regular la tecnología y aplicar un ritmo de desarrollo más controlado.

Sin embargo, ambos han aclarado que “dosificar” el avance no implica detener la investigación ni pausar el entrenamiento de los modelos. La propuesta de estos líderes tecnológicos se enfoca en implementar auditorías por parte de evaluadores externos, realizar pruebas de seguridad rigurosas y desplegar mecanismos de monitoreo antes de lanzar versiones más avanzadas al mercado. Por su parte, sectores críticos sugieren que el pedido de regulación por parte de las empresas dominantes busca afianzar su posición comercial e impedir el crecimiento de rivales más pequeños o iniciativas de código abierto.

La postura geopolítica: EE. UU. y China ante el dilema de la IA Las intenciones de desacelerar el avance de la IA chocan con la competencia geopolítica entre las grandes potencias. Donald Trump ha restado importancia a las advertencias sobre desastres existenciales, asegurando que se trata de narrativas exageradas y reafirmando su objetivo de que Estados Unidos lidere la carrera tecnológica global. | Actor político / Geopolítico | Posición frente a la regulación y el ritmo de desarrollo | |---|---| | Gobierno de Estados Unidos (Trump) | Descarta los riesgos existenciales, rechaza frenar el progreso y prioriza la ventaja competitiva sobre China. | | China | Promueve desarrollos de código abierto, impulsa la soberanía tecnológica y exige una gobernanza global multilateral. | | Parlamento Británico y Reguladores | Urgen la promulgación de nuevas leyes para proteger derechos humanos y mitigar los riesgos ya existentes. | En este contexto, la advertencia de Amodei sobre el avance de China fue calificada por el Ministerio de Asuntos Exteriores del país asiático como un discurso de confrontación e intenciones de competencia maliciosa.

La pugna por la supremacía tecnológica dificulta la adopción de barreras de seguridad internacionales unificadas. PREGUNTAS FRECUENTES ¿Qué es la amenaza existencial de la IA? Es la teoría de que un sistema de inteligencia artificial superinteligente podría superar el control humano, actuar sin alineación ética y causar la extinción o subordinación de la humanidad.

¿Qué proponen OpenAI y Anthropic respecto a la regulación de la IA? Proponen dosificar el desarrollo mediante evaluaciones de seguridad externas, estudios de riesgo y monitoreo constante, sin llegar a paralizar la investigación técnica. ¿Cuál es la postura de Estados Unidos sobre desacelerar la IA?

El gobierno estadounidense rechaza pausar el desarrollo de la IA para no perder el liderazgo tecnológico frente a China, considerando prioritaria la victoria en la carrera tecnológica mundial.