Devon Thomas no parece en absoluto un renegado. Los miembros de su grupo de estudio bíblico, según me cuenta, probablemente lo describirían como una persona siempre amable y educada.
Y, sin embargo, Thomas está haciendo algo que muchos en el mundo de la IA consideran casi una blasfemia. Su nueva empresa, Abliteration AI, elimina las medidas de seguridad de los modelos de peso abierto más potentes del mundo. Y no solo eso; pone estos modelos a disposición de cualquiera.
No más, sino menos seguridad
Como periodista especializado en IA que oye hablar constantemente de la necesidad de aumentar la seguridad, me fascinó conocer esta iniciativa empresarial subversiva. Me puse en contacto con Thomas y empezamos a comunicarnos por mensaje y a hablar por teléfono. Lo que descubrí cuestionó mis suposiciones sobre el discurso de seguridad del sector de la IA; concretamente, que los modelos sin censura son principalmente dominio de los delincuentes.
Thomas tiene 36 años, una barba densa, lentes y una risa autocrítica. Creció en Indiana y recuerda haber dividido su tiempo entre los deportes y el laboratorio de computación, donde pasaba horas usando Netscape Navigator para explorar los inicios de internet. Estudió informática en la Universidad de Indiana en Bloomington y se unió a Apple en 2020.
La rebelión de Thomas contra la IA comenzó en noviembre de 2025. Su trabajo como ingeniero en Apple implicaba trabajar con IA, pero fuera del trabajo le disgustaba usar los modelos alojados en los grandes laboratorios; significaba potencialmente compartir información con ellos, y a Thomas le frustraba que los modelos pudieran cambiar de un día para otro. Aún más irritante era que estos modelos con frecuencia se negaban a realizar tareas útiles cuando estaba creando prototipos de nuevas ideas, rechazando automáticamente cualquier entrada que incluyera información del usuario. Descubrió que sus solicitudes eran bloqueadas e incluso su cuenta suspendida cuando intentó usar un modelo para analizar los registros de ciberataques o identificar qué usuarios de una aplicación tenían más probabilidades de pagar por una nueva función.
Entrenados para decir que no
Los modelos de IA, por supuesto, están entrenados para rechazar todo tipo de solicitudes. ChatGPT y Claude tienen una larga lista de temas que saben que deben evitar, incluyendo solicitudes legítimas de ciberseguridad que los modelos consideran potencialmente maliciosas, cualquier contenido que se considere demasiado explícito y temas políticamente delicados. Los modelos de peso abierto incorporan mecanismos de protección similares.
El resultado es que, en ocasiones, los modelos se niegan a responder consultas que en realidad no son peligrosas. Y a veces, según los críticos, estas negativas existen para proteger los intereses de las grandes empresas de IA: OpenAI y Anthropic cobran un extra por el acceso a modelos sin las medidas de ciberseguridad habituales. Además, tanto ChatGPT como Claude se resisten a generar datos que podrían usarse para entrenar otro modelo, un proceso conocido como “destilación”.
Anhelando mayor control y libertad, Thomas construyó un formidable clúster de computadoras de 20,000 dólares en su apartamento, capaz de ejecutar algunos de los mejores modelos de código abierto (o de descarga gratuita). Casi todas las noches y los sábados descargaba y probaba las últimas versiones en su ruidoso laboratorio casero. Estos modelos no compartían ningún secreto con sus creadores, pero Thomas descubrió que se negaban obstinadamente a responder muchas consultas. Con cada negativa, Thomas se sentía un poco más molesto.
“Hay todo tipo de preguntas que rechazarán”, me dijo en una videollamada una mañana reciente. “Solo quería un modelo que respondiera a mi pregunta sin tener que dar tantas vueltas”.
Liberen la IA
Durante el Día de Acción de Gracias, Thomas comenzó a buscar en internet información sobre cómo modificar los modelos de peso abierto para cambiar este comportamiento. Pronto se vio inmerso en una subcultura de ingenieros comprometidos con liberar la IA por cualquier medio necesario. En foros de Reddit, servidores de Discord y X, los expertos compartieron diferentes indicaciones diseñadas para modificar ChatGPT o Claude y provocar su “mal funcionamiento”. Otros compartieron detalles sobre cómo modificar los modelos de peso abierto o ajustar sus parámetros internos para que desaparecieran los rechazos.
Eliminar las medidas de seguridad de la IA es innegablemente arriesgado. ¿Quieres montar un laboratorio de metanfetaminas, fabricar una bomba o hackear una gran corporación? Un modelo sin medidas de seguridad te lo facilitará. Como es lógico, muchos investigadores de la seguridad de la IA consideran que estos modelos son extremadamente peligrosos. Y los incidentes recientes, en los que agentes de OpenAI y Anthropic se descontrolaron, involucraron modelos con menos medidas de ciberseguridad, lo que parece ilustrar lo poderosos y problemáticos que pueden ser los modelos menos restringidos.
