La nueva industria que transforma agentes de IA en armas militares
Como muchas empresas de Silicon Valley hoy en día, Scout AI está entrenando grandes modelos y agentes de IA para automatizar tareas. La gran diferencia es que en lugar de escribir código, responder correos electrónicos o comprar cosas por internet, los agentes de Scout AI están diseñados para buscar y destruir cosas en el mundo físico con drones explosivos.
En una demostración reciente, celebrada en una base militar no revelada del centro de California, la tecnología de Scout AI se puso al mando de un vehículo todoterreno autoconducido y un par de drones letales. Los agentes utilizaron estos sistemas para encontrar un camión escondido en la zona, y luego lo volaron en pedazos utilizando una carga explosiva.
«Tenemos que llevar la IA de nueva generación al ejército», comentó Colby Adcock, CEO de Scout AI, en una entrevista con WIRED. El hermano de Adcock, Brett Adcock, es el CEO de Figure AI, una startup que trabaja en robots humanoides. «Tomamos un modelo de base hiperescalable y lo entrenamos para que pase de ser un chatbot generalizado o un asistente agéntico a ser un combatiente».
Guerra con IA
La empresa de Adcock forma parte de una nueva generación de startups que se apresuran a adaptar la tecnología de los grandes laboratorios de IA para el campo de batalla. Muchos responsables políticos creen que aprovechar la IA será la clave del futuro dominio militar. El potencial de combate de la IA es una de las razones por las que el gobierno estadounidense ha tratado de limitar la venta de chips avanzados de IA y equipos de fabricación de chips a China, aunque la administración Trump optó recientemente por flexibilizar esos controles.
«Es bueno para las startups de tecnología de defensa ir más allá con la integración de la IA. Eso es exactamente lo que deberían estar haciendo si EE UU va a liderar la adopción militar de la IA«, explica Michael Horowitz, profesor de la Universidad de Pensilvania que anteriormente trabajó en el Pentágono como subsecretario adjunto de Defensa para el desarrollo de fuerzas y capacidades emergentes.
No obstante, Horowitz también señala que aprovechar los últimos avances en IA puede resultar especialmente difícil en la práctica. Los grandes modelos de lenguaje (LLM) son intrínsecamente impredecibles y los agentes de IA, como los que controlan el popular asistente de IA OpenClaw, pueden comportarse mal cuando se les encomiendan incluso tareas relativamente benignas, como pedir productos por internet. Horowitz afirma que puede ser especialmente difícil demostrar que estos sistemas son robustos desde el punto de vista de la ciberseguridad, algo que sería necesario para un uso militar generalizado.
La reciente demostración de Scout AI incluía varios pasos en los que la IA tenía rienda suelta sobre los sistemas de combate. Al comienzo de la misión, se introdujo la siguiente orden en un sistema de Scout AI conocido como Fury Orchestrator:
Un modelo de IA relativamente grande, con más de 100,000 millones de parámetros, que puede ejecutarse en una plataforma segura en la nube o en una computadora con vigilancia aérea in situ, interpreta la orden inicial. Scout AI utiliza un modelo de código abierto no revelado al que se le han eliminado las restricciones. Este modelo actúa entonces como agente, emitiendo órdenes a modelos más pequeños, de 10,000 millones de parámetros, que se ejecutan en los vehículos terrestres y los drones que participan en el ejercicio. Los modelos más pequeños también actúan como agentes, emitiendo sus propias órdenes a sistemas de IA de nivel inferior que controlan los movimientos de los vehículos.
