Las chicas perciben menos que los chicos los sesgos de género de la IA

El surgimiento de la inteligencia artificial generativa y su habilidad para emular ciertas capacidades cognitivas humanas nos hace pasar por alto que se trata de una tecnología construida socialmente que, en lugar de ser neutral, reproduce los prejuicios de quienes la desarrollan. De esta forma, mantiene e incluso intensifica desigualdades en colectivos tradicionalmente marginados.

¿Qué percepción tiene la juventud sobre estos sesgos?

En una sociedad marcada por la polarización y aparentes certezas absolutas, ¿son los jóvenes conscientes de estas distorsiones? Una investigación reciente llevada a cabo por instituciones académicas analizó cómo el género, la edad y la formación educativa influyen en la percepción del estudiantado de secundaria sobre las posibles desigualdades generadas por la IA.

Hallazgos principales del estudio

• Percepción general: El alumnado muestra una conciencia media-alta sobre los sesgos incorporados en la inteligencia artificial
• Diferencias de género: Las jóvenes perciben en menor medida que los varones los prejuicios relacionados con género y etnia
• Impacto del nivel educativo: Quienes cursan bachillerato demuestran menor sensibilidad hacia sesgos de género, origen socioeconómico, edad, capacidad económica y diversidad funcional en comparación con estudiantes de secundaria y formación profesional

Metodología y relevancia educativa

Estos hallazgos, obtenidos mediante encuestas a más de 400 estudiantes de diferentes niveles educativos, subrayan la necesidad de incorporar la evaluación crítica y ética de la IA como competencia fundamental en la alfabetización digital.

Desafíos en la formación actual

La influencia transformadora de esta tecnología en la sociedad y en la educación exige reconsiderar los métodos pedagógicos actuales, especialmente considerando que la formación en inteligencia artificial no forma parte del currículo obligatorio en el sistema educativo formal.

Fuentes de información y concepciones juveniles

• Los medios de comunicación y la ficción televisiva constituyen las principales fuentes de información sobre IA para la juventud
• Esto genera visiones poco ajustadas a la realidad y favorece el desconocimiento sobre la dimensión ética de la tecnología
• La concienciación social y ética entre los jóvenes sobre las aplicaciones de IA resulta limitada
• La posible pérdida de empleos genera mayor preocupación que los sesgos discriminatorios o aspectos de control social

Perspectivas académicas y retos docentes

Especialistas en investigación educativa señalan el escaso interés del alumnado preuniversitario por las consideraciones éticas de la IA y documentan, mediante estudios empíricos, la visión positiva que los jóvenes mantienen sobre esta tecnología, a la que consideran imparcial y justa.

Frente a estas posturas, existe un amplio consenso académico centrado en implementar la IA en educación de manera eficaz, ética y segura. Entre los principales desafíos identificados se encuentran:

• La comprensión insuficiente del alumnado sobre cuestiones éticas vinculadas a la IA
• El desconocimiento del profesorado sobre los sesgos algorítmicos y el funcionamiento de estos sistemas
• La falta de preparación docente para educar en los aspectos éticos de la inteligencia artificial

Potencial educativo de la IA

La inteligencia artificial se emplea extensamente en diversos contextos sociales. El ámbito educativo no constituye una excepción. Informes de organismos internacionales evidencian su potencial para mejorar la enseñanza mediante:

• Automatización de procesos evaluativos
• Personalización del aprendizaje
• Aplicación de realidad aumentada, realidad virtual, asistentes conversacionales y estrategias de gamificación

Hacia una educación integral en IA

Los escenarios futuristas distópicos se desvanecen cuando el presente se enfoca en formar desde la infancia en las dimensiones técnica, humana y ética de la inteligencia artificial.

Como señalaba un reconocido filósofo, todo contiene cierta dosis de imprecisión y equivocación, y la IA no será una excepción. La solución radica en continuar investigando sus capacidades y limitaciones, y especialmente, en educar a las nuevas generaciones de manera inclusiva y equitativa para que puedan enfrentar con pensamiento crítico los retos que el futuro les depare.