Viés em IA refere-se à discriminação sistemática e injusta que surge nos resultados de sistemas de inteligência artificial. Esse viés pode se manifestar de várias formas, cada uma com origens e implicações distintas. Os tipos mais discutidos são viés de dados, viés algorítmico e viés social.

• Viés de dados ocorre quando os dados utilizados para treinar um modelo de IA não são representativos da população em geral ou contêm preconceitos embutidos;
• Viés algorítmico surge do próprio design dos algoritmos, como a forma de seleção de características ou de processamento das entradas pelo modelo;
• Viés social reflete a influência de desigualdades e pressupostos sociais mais amplos que acabam sendo codificados nos sistemas de IA, muitas vezes de forma inconsciente.

Compreender esses tipos de viés é fundamental, pois podem levar a decisões injustas, imprecisas ou até prejudiciais quando a IA é aplicada em situações do mundo real.

Existem inúmeros casos reais em que o viés em IA causou danos significativos:

• Em recrutamento: algumas ferramentas de recrutamento baseadas em IA favoreceram candidatos do sexo masculino em relação a candidatas do sexo feminino porque seus dados de treinamento refletiam desequilíbrios históricos de gênero em determinados setores;
• Na justiça criminal: algoritmos de avaliação de risco atribuíram pontuações de risco mais altas a indivíduos de grupos minoritários, reforçando desigualdades sociais já existentes;
• Na saúde: ferramentas de diagnóstico treinadas com dados predominantemente de um único grupo demográfico apresentaram desempenho inferior ao serem utilizadas com pacientes de grupos sub-representados.

Esses exemplos evidenciam que enfrentar o viés em IA não é apenas um desafio técnico, mas uma responsabilidade ética fundamental.