El sesgo en la inteligencia artificial se refiere a la discriminación sistemática e injusta que surge en los resultados de los sistemas de inteligencia artificial. Este sesgo puede manifestarse de varias formas, cada una con orígenes e implicaciones únicas. Los tipos más comúnmente discutidos son el sesgo de datos, el sesgo algorítmico y el sesgo social.

• El sesgo de datos ocurre cuando los datos utilizados para entrenar un modelo de IA no son representativos de la población general o contienen prejuicios incorporados;
• El sesgo algorítmico surge del diseño de los propios algoritmos, como la forma en que se seleccionan las características o cómo el modelo procesa las entradas;
• El sesgo social refleja la influencia de desigualdades y suposiciones sociales más amplias que se codifican en los sistemas de IA, a menudo de manera inconsciente.

Comprender estos tipos de sesgo es esencial porque pueden conducir a decisiones injustas, inexactas o incluso perjudiciales cuando la IA se utiliza en aplicaciones del mundo real.

Han ocurrido numerosos incidentes en el mundo real donde el sesgo en la IA ha causado daños significativos:

• En la contratación: algunas herramientas de reclutamiento impulsadas por IA han favorecido a candidatos masculinos sobre candidatas femeninas porque sus datos de entrenamiento reflejaban desequilibrios históricos de género en ciertas industrias;
• En la justicia penal: los algoritmos de evaluación de riesgos han asignado puntuaciones de riesgo más altas a personas de grupos minoritarios, reforzando desigualdades sociales existentes;
• En la atención médica: las herramientas de diagnóstico entrenadas con datos de un solo grupo demográfico han tenido un rendimiento inferior cuando se utilizan con pacientes de grupos subrepresentados.

Estos ejemplos resaltan por qué abordar el sesgo en la IA no es solo un desafío técnico, sino una responsabilidad ética fundamental.