El Gobierno de California se convirtió en el primero en Estados Unidos en prohibir por ley las funciones adictivas dentro de las redes sociales para menores de 16 años. La medida forma parte de una serie de leyes bipartidistas firmadas por el gobernador estatal, Gavin Newsom, que también establecen nuevas obligaciones de seguridad para los chatbots de compañía que operan con inteligencia artificial (IA).
“Queremos que nuestros hijos —y todos los niños de California— crezcan en un mundo donde la tecnología contribuya a su bienestar, en lugar de explotar sus vulnerabilidades. Con esta legislación crucial, California envía un mensaje contundente: cuando se trata de nuestros hijos, la seguridad no debe ser una cuestión secundaria, sino que debe integrarse en el diseño y ser un requisito indispensable para toda innovación”, señaló el gobernador en un comunicado.
Los riesgos son reales. También lo es la tentación para el Estado de responder con prohibiciones. Pero expulsar a las infancias de internet podría crear nuevos problemas sin resolver los que realmente importan.
En términos generales, el paquete legislativo establece que las redes sociales no podrán ofrecer a los usuarios menores de 16 años funciones consideradas adictivas, entre ellas el scroll infinito, las recomendaciones personalizadas y la reproducción automática. Además, incorpora mecanismos para proteger a los menores de la publicidad dirigida y regula el uso de los datos de alumnos de primaria y secundaria en sistemas de IA.
Las normas también amplían la definición del delito de explotación sexual infantil para incluir cualquier material alterado digitalmente o generado por IA que represente a una persona menor de 18 años participando en un acto de conducta sexual.
Otro de los ejes centrales del paquete legislativo es la nueva “Ley Adam”, creada en memoria de Adam Raine, un joven de 16 años que se suicidó el año pasado, presuntamente influenciado por ChatGPT. La normativa establece que los chatbots de compañía dirigidos a niños y adolescentes deberán integrar protocolos para atender posibles crisis relacionadas con ideación suicida, controles parentales y un sistema de notificaciones que alerte a los tutores cuando determinadas configuraciones de seguridad sean desactivadas sin autorización.
El gobierno estatal subraya que esta ley incorpora dos requisitos que son pioneros a nivel nacional: las empresas tecnológicas con operaciones en California deberán someterse a auditorías independientes de seguridad infantil y realizar evaluaciones anuales de riesgos relacionados con sus chatbots.
Las nuevas legislaciones también incorporan disposiciones relacionadas con la verificación de edad, los mecanismos para denunciar material de abuso sexual infantil, el acceso de menores a determinados servicios y productos digitales y el bienestar digital de los estudiantes.
¿Prohibir o solo regular?
Las leyes promulgadas por Newsom forman parte de una estrategia más amplia implementada en California desde hace varios años, que busca garantizar la seguridad digital, sobre todo de los menores de edad, mediante la prevención de la adicción a las redes sociales, la protección de la privacidad y la exigencia de responsabilidad a las plataformas.
El programa también contempla la formación del Consejo de Tecnología para Adolescentes, un foro diseñado y ya en operaciones que pretende promover la participación de los jóvenes en la elaboración de políticas estatales y respaldar iniciativas relacionadas con el bienestar digital.
Las nuevas normas en California se establecen en un contexto en el que expertos, diversos gobiernos y las grandes empresas tecnológicas debaten los riesgos reales que suponen las plataformas digitales y los sistemas de IA para el bienestar y la integridad de los usuarios más jóvenes.
Aunque la comunidad científica aún no encuentra un consenso concluyente sobre los impactos que estas tecnologías tienen en el desarrollo cognitivo, social y emocional de los adolescentes, la cantidad de gobiernos estatales y federales que intentan regular el uso de estas herramientas entre los menores de edad se mantiene en aumento.
