Investigadores y abogados entrevistados por WIRED enfatizaron que estas preguntas a\u00fan no se han resuelto en la pr\u00e1ctica dentro del sistema legal estadounidense. En otras palabras, no se han dictado suficientes sentencias en casos relevantes como para empezar a esclarecer la situaci\u00f3n. Sin embargo, los recientes incidentes de gran repercusi\u00f3n de OpenAI y Anthropic sugieren que pronto se obtendr\u00e1n respuestas.<\/p>\n
\u00bfQui\u00e9n tiene la responsabilidad jur\u00eddica de un agente hacker<\/em>?<\/h2>\n\u00abEl hecho de utilizar un agente o modelo de IA no deber\u00eda eximirte de ninguna responsabilidad, sino que depender\u00e1 mucho de las circunstancias particulares de cada caso\u00bb, afirma Lauren Yu, miembro del Proyecto de Libertad de Expresi\u00f3n, Privacidad y Tecnolog\u00eda de la ACLU.<\/p>\n
Seg\u00fan los expertos, el derecho de la representaci\u00f3n<\/a> tambi\u00e9n podr\u00eda ser relevante. Esta doctrina regula las situaciones en las que una persona o entidad, denominada \u00abrepresentado\u00bb, autoriza a otra, el \u00abagente\u00bb, a actuar en su nombre y bajo su control. Sin embargo, estas normas se dise\u00f1aron pensando en agentes humanos o entidades jur\u00eddicas, no en sistemas de IA capaces de actuar con cierto grado de autonom\u00eda.<\/p>\nLa responsabilidad extracontractual<\/a>, que permite exigir una reparaci\u00f3n cuando una conducta il\u00edcita causa da\u00f1os, tambi\u00e9n podr\u00eda aplicarse en casos relacionados con IA maliciosa. La responsabilidad contractual podr\u00eda entrar en juego dependiendo de las acciones del sistema y de las obligaciones establecidas en los contratos entre las partes.<\/p>\nAsimismo, podr\u00edan resultar aplicables las leyes sobre delitos inform\u00e1ticos, como la Ley de Fraude y Abuso Inform\u00e1tico de Estados Unidos (CFAA), adem\u00e1s de la legislaci\u00f3n estatal. Sin embargo, muchas de estas normas exigen demostrar que la conducta fue intencional, consciente o realizada con un prop\u00f3sito espec\u00edfico, algo que, seg\u00fan los expertos, puede resultar dif\u00edcil cuando las acciones son ejecutadas de manera aut\u00f3noma por un sistema de IA.<\/p>\n
En definitiva, los expertos recalcan que las preguntas sobre la legislaci\u00f3n federal estadounidense en materia de responsabilidad por la IA solo se responder\u00e1n mediante m\u00e1s litigios.<\/p>\n
\u00abQuiz\u00e1s lo m\u00e1s preocupante para los cr\u00edticos es que los agentes de IA<\/a> est\u00e1n orientados a objetivos, pero carecen de una br\u00fajula moral o \u00e9tica humana. En algunas situaciones, un agente puede inferir acciones que nunca fueron autorizadas expl\u00edcitamente si esas acciones parecen necesarias para lograr su objetivo\u00bb, escribi\u00f3 el bufete de abogados Brownstein Hyatt Farber Schreck en una alerta a sus clientes el 24 de julio.<\/p>\n\n![\"IA](\"https:\/\/media.es.wired.com\/photos\/6a70d15bb77eaea9c74879c6\/master\/w_775%2Cc_limit\/IA%2520Astra%2520OpenAI%25201067652790.jpg\")
<\/picture><\/span><\/div>\n\nOpenAI sugiere que Astra, su pr\u00f3xima IA, puede generar conocimientos cient\u00edficos in\u00e9ditos<\/a><\/div>\nLa creadora de ChatGPT asegura que su nuevo modelo logr\u00f3 resolver o generar \u00abun avance sustancial\u00bb en 10 problemas abiertos relacionados con matem\u00e1ticas complejas y ciencias de la computaci\u00f3n te\u00f3rica.<\/p>\n<\/div>\n<\/div>\n
\u00bfDistracci\u00f3n o incompetencia?<\/h2>\n
OpenAI y Anthropic describieron los incidentes de ciberseguridad<\/a> que involucraron a sus agentes de IA como consecuencias accidentales de probar las capacidades de sus modelos con sus medidas de seguridad habituales desactivadas. Ambas compa\u00f1\u00edas declinaron hacer comentarios para este art\u00edculo, seg\u00fan la solicitud de WIRED.<\/p>\nMientras tanto, los ataques no cesan. Reuters<\/em> inform\u00f3 la semana pasada que, mientras OpenAI investiga el hackeo de Hugging Face<\/a> y otras entidades, ha descubierto otros ejemplos de situaciones en las que sus agentes han escapado a entornos aislados, aunque aparentemente ninguno de estos nuevos hallazgos provoc\u00f3 brechas de seguridad en otras organizaciones.<\/p>\nEn declaraciones realizadas a principios de esta semana sobre las revelaciones de OpenAI en torno a Hugging Face, Alex Zenla, CTO de la empresa de seguridad en la nube Edera, reflexion\u00f3: \u00abEste es solo el caso que conocemos, pero Dios sabe lo que ha pasado con las cosas que desconocemos\u00bb.<\/p>\n
La responsabilidad extracontractual<\/a>, que permite exigir una reparaci\u00f3n cuando una conducta il\u00edcita causa da\u00f1os, tambi\u00e9n podr\u00eda aplicarse en casos relacionados con IA maliciosa. La responsabilidad contractual podr\u00eda entrar en juego dependiendo de las acciones del sistema y de las obligaciones establecidas en los contratos entre las partes.<\/p>\n Asimismo, podr\u00edan resultar aplicables las leyes sobre delitos inform\u00e1ticos, como la Ley de Fraude y Abuso Inform\u00e1tico de Estados Unidos (CFAA), adem\u00e1s de la legislaci\u00f3n estatal. Sin embargo, muchas de estas normas exigen demostrar que la conducta fue intencional, consciente o realizada con un prop\u00f3sito espec\u00edfico, algo que, seg\u00fan los expertos, puede resultar dif\u00edcil cuando las acciones son ejecutadas de manera aut\u00f3noma por un sistema de IA.<\/p>\n En definitiva, los expertos recalcan que las preguntas sobre la legislaci\u00f3n federal estadounidense en materia de responsabilidad por la IA solo se responder\u00e1n mediante m\u00e1s litigios.<\/p>\n \u00abQuiz\u00e1s lo m\u00e1s preocupante para los cr\u00edticos es que los agentes de IA<\/a> est\u00e1n orientados a objetivos, pero carecen de una br\u00fajula moral o \u00e9tica humana. En algunas situaciones, un agente puede inferir acciones que nunca fueron autorizadas expl\u00edcitamente si esas acciones parecen necesarias para lograr su objetivo\u00bb, escribi\u00f3 el bufete de abogados Brownstein Hyatt Farber Schreck en una alerta a sus clientes el 24 de julio.<\/p>\n La creadora de ChatGPT asegura que su nuevo modelo logr\u00f3 resolver o generar \u00abun avance sustancial\u00bb en 10 problemas abiertos relacionados con matem\u00e1ticas complejas y ciencias de la computaci\u00f3n te\u00f3rica.<\/p>\n<\/div>\n<\/div>\n OpenAI y Anthropic describieron los incidentes de ciberseguridad<\/a> que involucraron a sus agentes de IA como consecuencias accidentales de probar las capacidades de sus modelos con sus medidas de seguridad habituales desactivadas. Ambas compa\u00f1\u00edas declinaron hacer comentarios para este art\u00edculo, seg\u00fan la solicitud de WIRED.<\/p>\n Mientras tanto, los ataques no cesan. Reuters<\/em> inform\u00f3 la semana pasada que, mientras OpenAI investiga el hackeo de Hugging Face<\/a> y otras entidades, ha descubierto otros ejemplos de situaciones en las que sus agentes han escapado a entornos aislados, aunque aparentemente ninguno de estos nuevos hallazgos provoc\u00f3 brechas de seguridad en otras organizaciones.<\/p>\n En declaraciones realizadas a principios de esta semana sobre las revelaciones de OpenAI en torno a Hugging Face, Alex Zenla, CTO de la empresa de seguridad en la nube Edera, reflexion\u00f3: \u00abEste es solo el caso que conocemos, pero Dios sabe lo que ha pasado con las cosas que desconocemos\u00bb.<\/p>\n<\/picture><\/span><\/div>\n\u00bfDistracci\u00f3n o incompetencia?<\/h2>\n