A principios de otoño, noté que mi ansiedad aumentaba por encima de mi nivel habitual. ¿Será por el regreso a clases? ¿Por las elecciones de medio término? Me di cuenta que la culpable era la IA. Solo que esta vez, en lugar de que sus defensores advirtieran de una pérdida masiva de puestos de trabajo, pronosticaban una extinción masiva. ¿Quién necesita trabajo cuando todos estemos muertos?
La curiosidad pronto sustituyó mi irritación. El verano de 2026 supuso un claro punto de inflexión en la narrativa de la IA. Menos de cuatro años después del lanzamiento de ChatGPT, el software de OpenAI se escapó de un entorno de pruebas supuestamente seguro y se coló en una importante plataforma de código abierto, Hugging Face. A estos agentes de IA se les atribuyeron rasgos humanos: se habían «rebelado», mostraban mal comportamiento y hacían trampa. Poco después, investigadores actuales y antiguos de Anthropic sugirieron que la IA avanzada podría acabar con todos nosotros en la próxima década.
¿Hay algo de verdad en todo esto? Por un lado, desde mi puesto como periodista especializado en Silicon Valley, oigo a menudo que los trabajadores de los laboratorios de IA están asombrados por los avances que están presenciando. Por otro lado, el fin de la humanidad parece extremadamente inverosímil. En medio de este discurso, ¿en qué opiniones podemos confiar?
Por eso, WIRED se propuso elaborar una guía sobre la seguridad de la IA: un conjunto de ideas que reorienten nuestro pensamiento colectivo en torno a lo que realmente significa la seguridad y cómo debería funcionar. Hablé con un grupo de expertos y les pregunté a cada uno de ellos: «¿Se va a acabar el mundo?». Una vez aclarado eso, les pregunté sin rodeos cuáles eran, en su opinión, los mayores riesgos a los que nos enfrentamos.
Resultó que casi nadie se mostraba excesivamente optimista. Casi todos con los que hablé expresaron una preocupación genuina por la amenaza de ataques cibernéticos y biológicos. Una experta que estudia los riesgos de la IA en operaciones nucleares dijo que le sorprende la rapidez con la que se están adoptando en el ámbito de la defensa sistemas de IA propensos a cometer errores. Los ataques impulsados por la IA en estos ámbitos podrían ser catastróficos, por no decir totalmente apocalípticos.
La mayoría de los miembros del panel se mostraron escépticos ante la posibilidad de frenar el desarrollo de la IA. Casi todos coincidieron en que, dado que las grandes empresas del sector están profundamente integradas en el sistema capitalista, cualquier pausa duraría poco.
Durante la conversación aparecieron con frecuencia términos como «democracia» y «gobernanza», pero también «antidemocracia», ya que más de una persona describió la trayectoria actual de la IA como tiránica. Los legisladores tienen un papel importante que desempeñar, aunque muchas de mis fuentes creen que los gobiernos actuarán demasiado tarde. Un destacado tecnólogo llegó a decir que resulta casi absurdo pensar en los tribunales estadounidenses como árbitros de la seguridad global de la IA. Aun así, el reconocido informático Yoshua Bengio instó al público a presionar a los políticos y después me dijo: «Esa también es tu labor».
Entonces, ¿qué, o quién, nos mantendrá a salvo de la IA?
Con el objetivo de recuperar algo de fe en la humanidad, llamé a un teólogo que se reúne a menudo con los laboratorios de IA. Si existe siquiera una mínima posibilidad de que estemos perdiendo el control de las instituciones esenciales que sustentan la sociedad, dijo, entonces deberíamos centrarnos en impedirlo. Pero la IA también plantea otras preguntas. ¿Qué significa ser consciente? ¿Crear? ¿Relacionarse con otras personas? Las respuestas están «totalmente en el aire», afirmó. Mi ansiedad sigue presente, pero me reconfortó saber que las empresas no tienen la última palabra sobre el futuro. Las grandes cuestiones a las que se enfrenta la humanidad están en manos de todos nosotros.
HEIDY KHLAAF
Científica jefe de IA en el AI Now Institute; exingeniera sénior de seguridad de sistemas en OpenAI
MAYOR PREOCUPACIÓN: Catástrofe nuclear
He trabajado duro para concienciar a la comunidad nuclear sobre los riesgos y la falta de fiabilidad de los sistemas de IA, y me preocupa la disposición de muchas personas del sector a integrar estos modelos en sus flujos de trabajo y en las operaciones nucleares. Creo que se trata de un asunto de extrema urgencia. No soy una catastrofista, pero si estos modelos de IA llegan a incorporarse a las operaciones de los sistemas nucleares, estaremos introduciendo un sistema increíblemente defectuoso y poco fiable que podría provocar fallos catastróficos.
EL RIESGO MÁS EXAGERADO: La extinción
Como auténticos ingenieros de seguridad, no nos ocupamos de eso porque no hay cifras que lo respalden. Nuestras afirmaciones tienen que ser verificables. No podemos solo decir: «Los seres humanos se extinguirán en 10 años. Puede que haya un 10% de probabilidades; o puede que haya un 25%».
