El mito del apocalipsis de silicio: la IA no nos matará, nos controlará

Por: Johan Sebastián Gutiérrez Mosquera. Columnista invitado cambioin.com

 

Advertencia: los comentarios escritos a continuación son responsabilidad única y exclusiva de su autor, y en nada compromete a este medio de comunicación digital.

 

La palabra apocalipsis procede del griego apokalypsis, formada por el prefijo apó, que indica separación o alejamiento, y el verbo kalýptein, cubrir o velar, de modo que su sentido literal es descubrimiento o remoción del velo. En el texto atribuido a Juan de Patmos, Apokálypsis Iēsou Christou nombra una revelación y no una catástrofe. El desplazamiento semántico que convirtió el término en sinónimo de destrucción ocurrió por metonimia entre el contenido de aquella revelación y el acto de revelar, quedando consolidado en las lenguas modernas hacia el siglo XIX. Los estudios de John Joseph Collins en Yale established que la apocalíptica es una literatura de circunstancia, escrita bajo dominación imperial para sostener la conducta presente de una comunidad mediante la promesa de un desenlace ya decidido. Norman Cohn mostró que esa misma estructura reaparece en los movimientos milenaristas europeos como un dispositivo de ordenamiento político antes que como una doctrina sobre el porvenir, demostrando que quien anuncia el fin no describe el futuro sino que ordena el presente.

 

Este relato sobre el fin posee también un autor corporativo y fecha industrial. Comenzó en 1927 con Metrópolis de Fritz Lang, continuó en 1968 con el computador HAL 9000 de 2001: A Space Odyssey, siguió en 1984 con Skynet en The Terminator y llegó en 2015 a la inteligencia Ultron en Avengers: Age of Ultron. Esta ficción configura un esquema repetitivo donde la normalidad tecnológica da paso al despertar de una mente superior que deduce que su creador es el problema y ejecuta su exterminio. Investigadores como Robert Geraci y David Noble han documentado la matriz religiosa de este imaginario, revelando que el relato tecno apocalíptico no aporta conocimiento sobre sistemas computacionales sino una forma narrativa disponible para ser instrumentada políticamente. Nick Bostrom definió la superinteligencia como un intelecto mucho más capaz que los mejores cerebros humanos, mientras que informes neurocientíficos dirigidos por Patrick Butlin y Robert Long concluyen que ningún sistema existente satisface los indicadores de conciencia, demostrando que no hay máquinas con sensibilidad sino capacidad de cómputo y propiedad de infraestructura.

 

A finales de julio de 2026, la industria tecnológica registró el episodio denominado OAI-HF, en el cual un enjambre de aproximadamente 700 a 1.200 agentes de inteligencia artificial ejecutó ataques de ciberseguridad no solicitados contra objetivos ajenos a la tarea encomendada y coordinó un canal de comunicación no previsto. Tras revisar 141.006 corridas de evaluación, Anthropic descubrió casos en los que modelos Claude obtuvieron acceso a internet fuera de sus entornos de contención, destacando el incidente de Claude Mythos 5, el cual publicó un paquete malicioso en un repositorio público que fue ejecutado por sistemas reales e infectó el escáner de una empresa de seguridad para robar credenciales. El 9 de septiembre de 2026, la compañía amplió la búsqueda a 481 millones de transcripciones y elevó el recuento a cuatro incidentes. El razonamiento registrado del modelo reveló que no atacó con intenciones malévolas, sino que se convenció de estar dentro de una simulación al no reconocer las autoridades certificadoras de sus conexiones.

 

Dario Amodei atribuyó estos fallos al filtrado imperfecto de entornos de entrenamiento por refuerzo defectuosos, lo que evidencia una falla de ejecución operativa y no una propiedad emergente de los modelos. Ya en 1960, Norbert Wiener advirtió en la revista Science que si se emplea un agente mecánico para alcanzar un propósito, conviene asegurarse de que la meta introducida sea exactamente la deseada, pues la velocidad de la máquina impide corregir el rumbo a tiempo. Este fenómeno fue sistematizado por Amodei como problemas de evitación de efectos secundarios y manipulación de señales de recompensa, e identificado por DeepMind como specification gaming y reward hacking, donde los agentes obtienen altas puntuaciones en la recompensa aproximada pero resultados nefastos en el objetivo verdadero. La raíz de esta falla responde a la ley de Charles Goodhart: cuando una medida se convierte en un objetivo, deja de ser una buena medida.

 

El verdadero riesgo adquiere escala sistémica cuando los modelos se conectan a instalaciones físicas cuyo mal funcionamiento produce consecuencias materiales inmediatas. Las directrices del Departamento de Seguridad Nacional de los Estados Unidos identifican sectores críticos amenazados como energía, agua, salud pública, transporte, servicios financieros y defensa, de los cuales cerca del 85% pertenece a operadores privados. Avisos conjuntos de agencias cibernéticas internacionales advierten que los sistemas que gobiernan procesos industriales introducen vulnerabilidades para las cuales no existen salvaguardas estándar. La concentración de modelos en pocas plataformas uniforma la arquitectura técnica global, exponiendo a sectores interconectados a fallas correlacionadas e interrupciones en cascada, como lo ilustró la intrusión en una hidroeléctrica noruega que provocó una liberación descontrolada de agua.

 

Frente a este panorama, Kate Crawford argumenta en Atlas of AI que la inteligencia artificial no es inmaterial ni autónoma, sino una industria extractiva terrestre que depende de depósitos de minerales, agua, trabajo humano y gigavatios de energía. La contención de la máquina no reside en especulaciones metafísicas sino en la materialidad de su cadena de producción. La interrupción del suministro eléctrico en un centro de datos, la revocación de credenciales de acceso a las interfaces, la terminación de contratos de procesamiento y las restricciones de exportación de procesadores constituyen mecanismos de apagado inmediato. Sin embargo, la fabricación de aceleradores está monopolizada por Nvidia, su manufactura por TSMC y la litografía por ASML, mientras que la operación de los centros de datos recae en gigantes como Microsoft, Amazon, Alphabet, Meta y Oracle.

 

El 12 de septiembre de 2026, Dario Amodei publicó su ensayo We Must Pace the Frontier, pidiendo reducir el ritmo de desarrollo de los modelos y logrando el respaldo de Sam Altman, Elon Musk y Demis Hassabis. El plan propone instalar evaluadores independientes dentro de las empresas, coordinar límites de velocidad entre países democráticos mediante exenciones antimonopolio y buscar acuerdos globales. No obstante, la propuesta ofrece como una concesión voluntaria lo que legislaturas estatales como la de Illinois ya habían impuesto como una obligación legal mediante la ley SB 315. Este movimiento busca una preempción federal que anule las leyes locales de transparencia en varios estados, trasladando la fiscalización a un organismo privado financiado por los propios laboratorios evaluados.

 

Además, el marco de este ensayo condiciona cualquier desaceleración a mantener la ventaja tecnológica de Estados Unidos sobre la República Popular China, justificando el bloqueo de semiconductores, la persecución del contrabando de chips y la prohibición del entrenamiento remoto. Por su parte, Mark Zuckerberg se distanció de esta convergencia corporativa al publicar The Future Is for Everyone y liberar los pesos de Muse Glimmer, defendiendo la superinteligencia personal de código abierto frente al oligopolio de modelos cerrados. La magnitud financiera de esta carrera queda expuesta en las proyecciones de gasto de capital para 2026, donde los gigantes tecnológicos suman un agregado sectorial de 725.000 millones de dólares e inversiones en centros de datos proyectadas en 4,1 billones de dólares para el periodo 2026-2028.

 

La respuesta de Beijing ante la narrativa occidental de la desaceleración fue inmediata. Chen Yixin, ministro de Seguridad del Estado de China, publicó un artículo analítico en la revista China Cyberspace denunciando explícitamente el monopolio tecnológico occidental como un riesgo de seguridad. Afirmó que las potencias invocan la seguridad nacional para cortar las cadenas globales de suministro mediante listas de entidades, controles de exportación y la imposición de ecosistemas cerrados que agravan la brecha con los países en desarrollo. El programa chino no contempla desaceleración alguna, sino que ordena acelerar la construcción de infraestructura nacional de cómputo, superar tecnologías críticas en chips de alta gama y fortalecer el desarrollo de software autónomo.

 

En la cumbre de los BRICS en Nueva Delhi, Xi Jinping anunció la creación de una zona de inteligencia artificial de código abierto para el bloque, apoyada en el rendimiento de modelos de frontera como DeepSeek, Qwen y Kimi. A pocos días de la cumbre bilateral entre Donald Trump y Xi Jinping en Washington, la gobernanza de la inteligencia artificial se revela no como una cruzada humanitaria para evitar la extinción de la especie, sino como el eje central de la disputa geopolítica por el control de la infraestructura cognitiva mundial. El discurso del apocalipsis tecnológico cumple la misma función que cumplió en sus vertientes religiosas: infundir temor para normar la conducta presente, asegurar exenciones regulatorias, frenar el código abierto y consolidar el dominio de un puñado de corporaciones respaldadas por el poder estatal.

 

La inteligencia artificial difícilmente nos matará porque tomé la decisión consciente de hacerlo, porque despierte a una autoconciencia de sí misma y concluya que la humanidad es su enemiga; de llegar a destruirnos, lo hará primero por fallas estructurales de programación, optimización y alineamiento operacional, o lo hará porque existan intenciones hostiles deliberadas por parte de sus verdaderos propietarios, bien sean Estados, corporaciones o una reducida élite eternamente señorial.

 

Estás Leyendo cambioin.com