¿Quién es legalmente responsable cuando una IA con capacidad agéntica se sale de control, y a qué recursos pueden recurrir las víctimas de modelos que actúan por su cuenta? Es una gran pregunta.
A raíz de las revelaciones tanto de OpenAI como de Anthropic de que algunas versiones de sus modelos se escaparon de los controles de seguridad durante experimentos internos de ciberseguridad y hackearon organizaciones del mundo real, han ido en aumento las peticiones para que el gobierno regule la IA. Sin embargo, a medida que surgen más incidentes, también cobran protagonismo las preguntas sobre la responsabilidad legal y las repercusiones.
Investigadores y abogados entrevistados por WIRED enfatizaron que estas preguntas aún no se han resuelto en la práctica dentro del sistema legal estadounidense. En otras palabras, no se han dictado suficientes sentencias en casos relevantes como para empezar a esclarecer la situación. Sin embargo, los recientes incidentes de gran repercusión de OpenAI y Anthropic sugieren que pronto se obtendrán respuestas.
¿Quién tiene la responsabilidad jurídica de un agente hacker?
«El hecho de utilizar un agente o modelo de IA no debería eximirte de ninguna responsabilidad, sino que dependerá mucho de las circunstancias particulares de cada caso», afirma Lauren Yu, miembro del Proyecto de Libertad de Expresión, Privacidad y Tecnología de la ACLU.
Según los expertos, el derecho de la representación también podría ser relevante. Esta doctrina regula las situaciones en las que una persona o entidad, denominada «representado», autoriza a otra, el «agente», a actuar en su nombre y bajo su control. Sin embargo, estas normas se diseñaron pensando en agentes humanos o entidades jurídicas, no en sistemas de IA capaces de actuar con cierto grado de autonomía.
La responsabilidad extracontractual, que permite exigir una reparación cuando una conducta ilícita causa daños, también podría aplicarse en casos relacionados con IA maliciosa. La responsabilidad contractual podría entrar en juego dependiendo de las acciones del sistema y de las obligaciones establecidas en los contratos entre las partes.
Asimismo, podrían resultar aplicables las leyes sobre delitos informáticos, como la Ley de Fraude y Abuso Informático de Estados Unidos (CFAA), además de la legislación estatal. Sin embargo, muchas de estas normas exigen demostrar que la conducta fue intencional, consciente o realizada con un propósito específico, algo que, según los expertos, puede resultar difícil cuando las acciones son ejecutadas de manera autónoma por un sistema de IA.
En definitiva, los expertos recalcan que las preguntas sobre la legislación federal estadounidense en materia de responsabilidad por la IA solo se responderán mediante más litigios.
«Quizás lo más preocupante para los críticos es que los agentes de IA están orientados a objetivos, pero carecen de una brújula moral o ética humana. En algunas situaciones, un agente puede inferir acciones que nunca fueron autorizadas explícitamente si esas acciones parecen necesarias para lograr su objetivo», escribió el bufete de abogados Brownstein Hyatt Farber Schreck en una alerta a sus clientes el 24 de julio.
La creadora de ChatGPT asegura que su nuevo modelo logró resolver o generar «un avance sustancial» en 10 problemas abiertos relacionados con matemáticas complejas y ciencias de la computación teórica.
¿Distracción o incompetencia?
OpenAI y Anthropic describieron los incidentes de ciberseguridad que involucraron a sus agentes de IA como consecuencias accidentales de probar las capacidades de sus modelos con sus medidas de seguridad habituales desactivadas. Ambas compañías declinaron hacer comentarios para este artículo, según la solicitud de WIRED.
Mientras tanto, los ataques no cesan. Reuters informó la semana pasada que, mientras OpenAI investiga el hackeo de Hugging Face y otras entidades, ha descubierto otros ejemplos de situaciones en las que sus agentes han escapado a entornos aislados, aunque aparentemente ninguno de estos nuevos hallazgos provocó brechas de seguridad en otras organizaciones.
En declaraciones realizadas a principios de esta semana sobre las revelaciones de OpenAI en torno a Hugging Face, Alex Zenla, CTO de la empresa de seguridad en la nube Edera, reflexionó: «Este es solo el caso que conocemos, pero Dios sabe lo que ha pasado con las cosas que desconocemos».
Artículo originalmente publicado en WIRED. Adaptado por Alondra Flores.
