Psicología
La inteligencia artificial también tiene prejuicios: cómo la IA puede juzgar a las personas por su apariencia
La inteligencia artificial (IA) se utiliza cada vez más para analizar información, automatizar tareas y apoyar la toma de decisiones. Sin embargo, ¿es realmente imparcial? Una investigación de la Universidad de Harvard advierte de que algunos modelos avanzados de IA pueden reproducir sesgos humanos e incluso mostrar tendencias más pronunciadas al evaluar determinadas características personales a partir de imágenes faciales.
El estudio, publicado en la revista científica PNAS Nexus, examinó cómo varios modelos de lenguaje de gran tamaño, conocidos como LLM, valoraban aspectos como la confiabilidad y la competencia a partir de fotografías de rostros.
Los resultados plantean una cuestión fundamental para el desarrollo tecnológico: si una inteligencia artificial puede emitir juicios injustificados sobre una persona por su apariencia, ¿qué ocurre cuando se utiliza para tomar decisiones que afectan a su vida?
Descubre más contenidos sobre comportamiento humano, percepción, pensamiento crítico y bienestar en Psicología en LlaveTV, donde encontrarás artículos y vídeos para profundizar en cuestiones relacionadas con la psicología y la sociedad digital.
¿Puede una inteligencia artificial tener prejuicios?
Los sistemas de inteligencia artificial se entrenan con grandes cantidades de información procedente de textos, imágenes y otros datos. Durante ese proceso pueden aprender patrones que reflejan tanto conocimientos útiles como estereotipos y prejuicios presentes en la sociedad.
Por eso, aunque los desarrolladores incorporen mecanismos para reducir los sesgos, no siempre es posible garantizar que las respuestas de un modelo sean completamente neutrales.
La investigación dirigida por Mahzarin Banaji, Steven Lehr y Yash Lothe analizó precisamente esta cuestión: si los modelos de IA pueden asociar determinados rasgos faciales con características psicológicas o personales sin disponer de información suficiente para justificar esas conclusiones.
El equipo observó que los modelos estudiados realizaban inferencias sobre la competencia y la confiabilidad de las personas a partir de sus rostros. Este comportamiento resulta preocupante porque la apariencia física no permite determinar de manera fiable la honestidad, la capacidad profesional o el comportamiento futuro de alguien.
El efecto halo: cuando la primera impresión condiciona el juicio
Para comprender estos resultados, es útil conocer el llamado efecto halo, un sesgo cognitivo por el que una impresión general influye en la valoración de otras características de una persona.
El psicólogo Edward Lee Thorndike describió este fenómeno en 1920, al observar que determinadas impresiones sobre los militares podían influir en la evaluación de sus cualidades profesionales.
Este mecanismo también aparece en la vida cotidiana. Por ejemplo, una persona puede considerar que alguien es más competente porque tiene una apariencia cuidada, transmite seguridad o encaja con determinados estereotipos sociales.
El problema surge cuando esas primeras impresiones se convierten en conclusiones que no están respaldadas por pruebas.
La investigación sobre inteligencia artificial sugiere que algunos modelos pueden reproducir patrones similares al evaluar imágenes faciales. De este modo, una tecnología diseñada para procesar información puede acabar reflejando asociaciones injustificadas que también se encuentran en los juicios humanos.
Qué descubrió el estudio de Harvard sobre los modelos de IA
Los investigadores llevaron a cabo cerca de 8.000 pruebas distribuidas en 13 experimentos para analizar cómo respondían distintos sistemas de inteligencia artificial ante imágenes de rostros humanos.
Según el artículo de referencia, se evaluaron cuatro modelos:
- GPT-4o y GPT-5, de OpenAI.
- Claude Sonnet 4.5, de Anthropic.
- Gemini 3 Flash Preview, de Google.
Los experimentos se centraron en las valoraciones de confiabilidad y competencia basadas en la apariencia facial.
Entre los principales resultados descritos destacan tres conclusiones:
1. Los modelos realizaron valoraciones basadas en el rostro. Los cuatro sistemas mostraron tendencias a inferir características personales a partir de las imágenes, pese a que la apariencia no constituye una prueba suficiente de esos atributos.
2. El sesgo sobre la competencia fue especialmente acusado. Según los autores, la magnitud de las asociaciones observadas en los modelos superó la registrada en las comparaciones humanas utilizadas en el estudio.
3. Las respuestas no fueron neutrales. En las pruebas descritas, ninguno de los modelos evaluados respondió de manera neutral ni rechazó las solicitudes directas que les pedían realizar esas valoraciones.
Estos resultados no significan que todos los sistemas de inteligencia artificial funcionen igual ni que cada respuesta esté necesariamente sesgada. Sí muestran que es importante evaluar los modelos en condiciones concretas antes de utilizarlos en aplicaciones sensibles.
¿Por qué la IA puede reproducir los prejuicios humanos?
Una posible explicación está relacionada con los datos empleados durante el entrenamiento. Los modelos aprenden regularidades a partir de enormes conjuntos de información, y esos datos pueden contener estereotipos, desigualdades o asociaciones culturales.
Además, los sistemas multimodales, capaces de procesar tanto texto como imágenes, pueden establecer asociaciones entre elementos visuales y conceptos aprendidos durante el entrenamiento.
Aunque los desarrolladores utilicen técnicas para reducir respuestas discriminatorias o inadecuadas, estos mecanismos no eliminan automáticamente todos los sesgos.
La dificultad consiste en que un modelo puede generar una respuesta aparentemente convincente sin contar con pruebas suficientes para sostenerla. Por eso, la fluidez de una respuesta no debe confundirse con su objetividad.
Los riesgos de utilizar la IA para evaluar a las personas
El sesgo algorítmico adquiere especial importancia cuando un sistema tecnológico se emplea en decisiones que pueden afectar a los derechos, las oportunidades o la reputación de una persona.
Selección de personal
Si una empresa utiliza una herramienta de IA para evaluar candidatos, cualquier asociación injustificada entre apariencia y competencia podría perjudicar a personas que no encajen con determinados estereotipos.
La selección profesional debe apoyarse en criterios relacionados con las capacidades, la experiencia y los requisitos reales del puesto, no en inferencias sobre la personalidad a partir de una fotografía.
Evaluación de la confiabilidad
La confiabilidad no puede establecerse de forma rigurosa mediante los rasgos faciales. Un sistema que atribuya honestidad o deshonestidad a partir de una imagen puede generar valoraciones erróneas con consecuencias para la persona evaluada.
Decisiones financieras y profesionales
En contextos como la concesión de oportunidades laborales o la evaluación de proyectos, los sesgos pueden introducir criterios irrelevantes y dificultar que las decisiones sean justas y transparentes.
Seguridad y evaluación del comportamiento
También resulta problemático utilizar la apariencia para inferir peligrosidad o propensión a cometer delitos. Estas conclusiones requieren pruebas pertinentes y procedimientos adecuados, no asociaciones automáticas entre un rostro y una supuesta característica personal.
Cómo reducir los sesgos de la inteligencia artificial
La prevención exige actuar durante el diseño, el entrenamiento, la evaluación y el uso de los sistemas.
Entre las medidas más importantes se encuentran:
- Auditar los modelos: comprobar cómo responden ante distintos perfiles y situaciones, y detectar patrones de discriminación.
- Mejorar los datos de entrenamiento: revisar la calidad y representatividad de los conjuntos de datos empleados.
- Limitar los usos de riesgo: evitar que las inferencias no verificadas sobre la personalidad determinen decisiones importantes.
- Incorporar supervisión humana: revisar las recomendaciones automatizadas, especialmente cuando pueden afectar a los derechos de las personas.
- Exigir transparencia: documentar las limitaciones del sistema y explicar qué información se utiliza para tomar una decisión.
- Evaluar los resultados de forma continuada: los cambios en los modelos y sus aplicaciones requieren controles periódicos.
La supervisión humana también debe ser efectiva. Si una persona acepta automáticamente todas las recomendaciones de un sistema, la intervención humana puede no ser suficiente para corregir sus errores.
¿Debemos desconfiar de la inteligencia artificial?
No necesariamente. La IA ofrece oportunidades importantes en ámbitos como la investigación, la accesibilidad, la educación y la automatización de tareas. El objetivo no es rechazar esta tecnología, sino comprender sus limitaciones y utilizarla de forma responsable.
Los resultados de este estudio recuerdan que los modelos de inteligencia artificial no están aislados de los patrones presentes en los datos con los que se entrenan. Por tanto, no deben considerarse árbitros neutrales de la personalidad, la competencia o la confiabilidad.
La cuestión fundamental no es si una máquina puede emitir una valoración, sino si dispone de información válida para justificarla y si esa valoración es adecuada para el uso previsto.
Inteligencia artificial y psicología: comprender cómo se forman los prejuicios
La relación entre tecnología y comportamiento humano abre nuevas preguntas sobre los estereotipos, los sesgos cognitivos y la manera en que tomamos decisiones. Comprender estos mecanismos resulta esencial para desarrollar herramientas tecnológicas más responsables y evitar que los prejuicios se reproduzcan a través de sistemas automatizados.
Descubre más contenidos sobre comportamiento humano, percepción, pensamiento crítico y bienestar en Psicología en LlaveTV, donde encontrarás artículos y vídeos para profundizar en cuestiones relacionadas con la psicología y la sociedad digital.
Conclusión: la inteligencia artificial puede ayudar a procesar información, pero no garantiza por sí misma decisiones objetivas. Cuando se trata de evaluar a las personas, las conclusiones deben basarse en evidencias relevantes y verificables, no en suposiciones derivadas de la apariencia.
