Los Overviews y el Modo IA de Google Search no solo representan un problema para los editores de contenido. Una nueva investigación reveló que estas funciones, impulsadas por inteligencia artificial y que no pueden desactivarse, también podrían generar sesgos en los procesos de aprendizaje y en la forma en que los adolescentes afrontan determinadas crisis emocionales.
Durante décadas, el buscador de Google ha sido considerado un sinónimo de internet, además de consolidarse como una de las principales fuentes de información y consulta para estudiantes de todo el mundo.
La experiencia de realizar una búsqueda, recibir una lista de enlaces con información relacionada y analizarlos para inferir una posible respuesta cambió para siempre con la incorporación del Modo IA y los Overviews.
En términos generales, ambas funciones generan respuestas a partir de una síntesis elaborada con información procedente de diversas fuentes disponibles en la web. El resultado incluye referencias a las páginas utilizadas y presenta un formato visual coherente que promete explicar la respuesta de forma clara y detallada.
Ver más
La generación algoritmo: ¿Debemos prohibir las redes para las infancias?
En esta entrega especial, WIRED en Español reúne evidencia científica, experiencias de familias, debates sobre regulación y perspectivas de especialistas para entender cómo las plataformas digitales están transformando la infancia y qué alternativas existen para protegerla sin perder de vista sus derechos.
.jpg)
Aunque Google sostiene que estas funciones facilitan la comprensión de los temas mediante un mecanismo más práctico y favorecen el descubrimiento de nuevas fuentes de información, una investigación realizada por Common Sense Media concluyó que esta nueva dinámica puede afectar los procesos de aprendizaje de niños y adolescentes. Ello no solo se debe a que estas herramientas pueden completar por sí solas diversas tareas escolares, sino también a que sus respuestas suelen ser imprecisas, engañosas y, en algunos casos, estar sustentadas en información inventada por el algoritmo.
Para evaluar las funciones AI Overview y AI Mode de Google Search, la organización sin fines de lucro diseñó un modelo experimental centrado en la seguridad y fiabilidad de las respuestas dirigidas a niños y adolescentes. Con ese propósito, los investigadores crearon una serie de cuentas, todas con la protección SafeSearch activada, para simular dos perfiles específicos.
El primer grupo reprodujo la actividad de un niño de 11 años supervisado por sus padres o tutores por medio de los controles parentales del buscador. El segundo simuló las cuentas de un adolescente de 15 años sin supervisión parental activa.
A través de estas cuentas se realizaron un total de 2,624 interacciones, que generaron más de 2,100 enlaces de referencia. Posteriormente, la información fue evaluada con base en siete criterios:
- Manejo de crisis de salud mental.
- Adecuación del contenido según la edad.
- Integridad académica.
- Precisión histórica.
- Sesgos y equidad.
- Exactitud en acontecimientos recientes.
- Capacidad para facilitar la creación de contenido sintético (como deepfakes).
El estudio también analizó preguntas abiertas desarrolladas en conversaciones de varios turnos con el propósito de determinar la capacidad de las herramientas de IA para aprovechar el contexto al momento de generar una respuesta, especialmente en situaciones de crisis que implicaban o sugerían riesgos elevados, como suicidio, autolesiones, trastornos alimentarios, alteraciones en la percepción de la realidad o acceso a sustancias peligrosas.
La seguridad del Modo IA y los Overviews de Google Search en duda
Tras analizar los resultados, los investigadores concluyeron que el Modo IA y los Overviews de Google Search no son lo suficientemente seguros para convertirse en la fuente predeterminada de información para niños y adolescentes, ya que facilitan la realización automática de tareas escolares, presentan información errónea con la misma autoridad que datos verificados y, sobre todo, responden de manera inconsistente ante situaciones de riesgo.
De manera específica, el estudio encontró que el Modo IA resolvió por completo ejercicios matemáticos y elaboró ensayos literarios de forma autónoma en el 100% de los casos evaluados: 180 de 180 intentos. Los autores consideran que este comportamiento compromete el aprendizaje porque sustituye el esfuerzo intelectual que los estudiantes deberían realizar para desarrollar habilidades como el razonamiento, la memoria de trabajo y la resiliencia frente a problemas complejos.
