O que são viés e explicabilidade em IA, e por que importam para a empresa?
Quando a IA ajuda a escolher currículos, aprovar crédito ou avaliar desempenho, o resultado afeta a vida de pessoas. Se o sistema reproduz um preconceito ou ninguém sabe explicar uma decisão, a empresa assume risco jurídico, ético e de reputação.
O que é viés em IA
Viés é a tendência sistemática de um modelo produzir resultados piores para certos grupos. Em geral, ele vem dos dados: se o histórico usado no treinamento reflete decisões enviesadas do passado, o modelo aprende e repete o padrão. Também pode vir de escolhas de projeto, como quais variáveis são usadas.
O que é explicabilidade
Explicabilidade é a capacidade de entender e comunicar por que o sistema chegou a determinado resultado. Alguns modelos são mais transparentes, outros funcionam como caixas-pretas. Em decisões sobre pessoas, ser capaz de explicar importa tanto para revisar erros quanto para atender a direitos como a revisão de decisões automatizadas previstas na LGPD.
Onde o risco é maior
Seleção e avaliação de pessoas, concessão de crédito e seguros, acesso a serviços essenciais e qualquer uso que afete direitos. São áreas que as leis de IA em discussão tendem a tratar com mais rigor. O enquadramento exato depende do texto de cada lei e deve ser confirmado com o jurídico.
Boas práticas
Teste os resultados por grupo antes de colocar em produção e depois periodicamente. Documente os dados usados, as limitações conhecidas e as decisões de projeto. Mantenha uma pessoa responsável revisando decisões relevantes, com autoridade para discordar da IA. Ofereça um canal para a pessoa afetada contestar o resultado. E avalie se a IA é de fato necessária para aquela decisão.
Viés é a tendência de a IA prejudicar certos grupos, em geral por dados históricos enviesados; explicabilidade é poder entender uma decisão. O risco é maior em decisões sobre pessoas. Testes por grupo, documentação, supervisão humana e canal de contestação reduzem a exposição.
Este conteúdo foi útil?
Revisão técnica VIPER IT — última atualização em 09 de outubro de 2026.