La inteligencia artificial no es neutral: advierten por los sesgos que nacen detrás de los algoritmos

La inteligencia artificial no toma decisiones en el vacío: detrás de cada algoritmo existen personas, datos y criterios que pueden trasladar los prejuicios de la sociedad a las nuevas tecnologías. Expertas advierten que la escasa participación femenina en los equipos que desarrollan estos sistemas contribuye a la reproducción de sesgos de género y otras desigualdades.

"La inteligencia artificial no es neutral: refleja las sociedades que la diseñan, los datos con los que se entrena y las decisiones políticas que orientan su uso", explicó Bibiana Aido, directora regional de ONU Mujeres para América Latina y el Caribe.

Según la especialista, cuando los datos utilizados para entrenar estos modelos contienen estereotipos o exclusiones, la IA puede replicarlos e incluso profundizarlos. El impacto, sostienen, no se limita a un problema técnico, sino que involucra aspectos democráticos, éticos y de derechos humanos.

También te puede interesar: JAPÓN. UN TERREMOTO DE MAGNITUD 7,1 ACTIVÓ ALERTA DE TSUNAMI Y DEJÓ DECENAS DE DESAPARECIDOS

Paola Ricaurte Quijano, investigadora del Tecnológico de Monterrey y coordinadora de la Red Feminista de IA para América Latina y el Caribe, señaló que los sesgos afectan especialmente a personas trans, racializadas y con discapacidad, al ampliar desigualdades que ya existen.

"Estos sesgos no son errores aislados que se arreglan con una actualización; son propiedades intrínsecas de modelos centralizados", afirmó Luciana Benotti, profesora de la Universidad Nacional de Córdoba y especialista en auditoría algorítmica.

Las especialistas explican que los sesgos aparecen mucho antes de que una inteligencia artificial genere una respuesta. Se originan en decisiones humanas: qué datos se seleccionan, qué variables se priorizan, qué problemas se buscan resolver y quiénes participan en el diseño.

También te puede interesar: Fiesta del Poncho: Puente pidió a Mariela Romero que explique la adjudicación de los espacios

"Detrás de cada sistema hay decisiones humanas: qué datos se usan, qué se mide, qué se deja afuera, quién define el problema, quién programa la solución y quién supervisa sus impactos", sostuvo Aido.

En ese sentido, advierten que los equipos tecnológicos todavía tienen una composición poco diversa, especialmente en los cargos técnicos y de liderazgo. La falta de variedad de experiencias puede llevar a no detectar determinados riesgos o a crear herramientas que respondan solo a una parte de la sociedad.

"Los equipos homogéneos tienden a ver menos riesgos, anticipar menos impactos diferenciados y diseñar soluciones que responden a experiencias parciales", agregó la representante de ONU Mujeres.

También te puede interesar: Convocan a una nueva Subasta Pública Electrónica de vehículos en desuso

Ricaurte Quijano describió al desarrollo de inteligencia artificial como una industria "muy masculinizada" y remarcó que la brecha aumenta en áreas específicas, como la ciberseguridad, donde la participación de mujeres y minorías continúa siendo baja.

Para las expertas, incorporar más mujeres y comunidades históricamente excluidas no solo responde a una cuestión de representación, sino también a la necesidad de construir tecnologías más precisas y menos dañinas.

"Cuando las mujeres no participan en el desarrollo de estas tecnologías, se toman decisiones sobre el futuro digital sin sus experiencias, necesidades y conocimientos", señaló Aido.

También te puede interesar: El drama del fuego en España es "la expresión más dolorosa" del cambio climático

Otro de los puntos de preocupación es la concentración del desarrollo de los sistemas más avanzados en pocas grandes empresas tecnológicas. Benotti advirtió que esa centralización puede dejar de lado necesidades específicas de regiones como América Latina, donde muchas herramientas son creadas con criterios ajenos a los contextos locales.

Además, las especialistas alertaron que los modelos pueden reproducir desigualdades lingüísticas y culturales al estar entrenados principalmente con información proveniente de idiomas y sociedades dominantes.

Frente a este escenario, las especialistas plantean la necesidad de avanzar con auditorías algorítmicas independientes, metodologías adaptadas a cada región y una mayor participación de mujeres en todas las etapas del desarrollo tecnológico.

También te puede interesar: Wanda Nara publica pruebas y reclama por los pasaportes robados de sus hijas

"Necesitamos que las mujeres participen en el diseño, desarrollo, regulación y evaluación de estas tecnologías. No puede haber decisiones sobre el futuro digital sin mujeres en la mesa", afirmó Aido.

El desafío para América Latina, sostienen, es dejar de ser solo consumidora de herramientas creadas en otros lugares y participar activamente en la construcción de una inteligencia artificial más inclusiva.

"El futuro no se espera, se construye. Y si queremos un futuro digital justo, seguro e inclusivo, tenemos que construirlo con las mujeres y las niñas en el centro", concluyó Aido.