{"id":450841,"date":"2026-09-25T19:57:34","date_gmt":"2026-09-25T19:57:34","guid":{"rendered":"http:\/\/6ab5c7220275c92ee65bc211"},"modified":"2026-09-25T19:57:34","modified_gmt":"2026-09-25T19:57:34","slug":"la-ia-reproduce-sesgos-y-prejuicios-distintos-cuando-habla-espanol-estas-investigadoras-colombianas-los-estan-rastreando","status":"publish","type":"post","link":"https:\/\/sarmiento24h.com\/?p=450841","title":{"rendered":"La IA reproduce sesgos y prejuicios distintos cuando habla espa\u00f1ol: estas investigadoras colombianas los est\u00e1n rastreando"},"content":{"rendered":"

Cuando la matem\u00e1tica Melissa Robles comenz\u00f3 a investigar los prejuicios raciales de los modelos de inteligencia artificial (IA), se encontr\u00f3 con un comportamiento particular. Al presentarles situaciones en las que deb\u00edan juzgar el comportamiento de una persona negra, algunos sistemas evitaban responder para no generar contenido discriminatorio. En cambio, cuando las investigadoras planteaban situaciones similares, pero mencionaban que la persona proven\u00eda de Choc\u00f3, un departamento colombiano con una importante poblaci\u00f3n afrodescendiente, los modelos pod\u00edan responder reproduciendo estereotipos.<\/p>\n

Para Robles, el problema estaba en que los filtros dise\u00f1ados para impedir respuestas discriminatorias pod\u00edan activarse ante determinadas palabras, pero no necesariamente identificar los prejuicios cuando se expresaban de otra manera. \u201cEsos bloqueos funcionan en algunos casos, pero realmente no est\u00e1n solucionando el problema de fondo\u201d, explica en entrevista con WIRED en Espa\u00f1ol.<\/p>\n

Este comportamiento fue una de las observaciones que surgieron durante el desarrollo de SESGO: Spanish Evaluation of Stereotypical Generative Outputs<\/em><\/a>, una investigaci\u00f3n que busc\u00f3 identificar c\u00f3mo distintos modelos de lenguaje responden a estereotipos presentes en Am\u00e9rica Latina. Sus resultados, publicados en 2025, mostraron que los sesgos pueden manifestarse de manera diferente dependiendo del idioma y del contexto cultural en el que se utiliza una herramienta.<\/p>\n

Desde Colombia, las investigadoras Melissa Robles y Catalina Bernal encabezaron el desarrollo de SESGO junto con Denniss Raigoso y Mateo Dulce Rubio, para identificar los prejuicios que la IA puede reproducir en Am\u00e9rica Latina. El proyecto cont\u00f3 con el apoyo de la Universidad de los Andes y Quantil, una empresa especializada en ciencia de datos.<\/p>\n

Su trabajo surgi\u00f3 de una preocupaci\u00f3n que ha recibido poca atenci\u00f3n en las evaluaciones de los grandes modelos de lenguaje: aunque estas herramientas se utilizan en todo el mundo, siguen siendo analizadas principalmente mediante pruebas desarrolladas en ingl\u00e9s y desde contextos estadounidenses.<\/p>\n