Viés na Inteligência Artificial: por que a IA erra com pessoas e como testar isso na sua empresa

Resposta rápida

Sim, a inteligência artificial tem viés, e não é exceção: é padrão. Viés na inteligência artificial acontece porque todo sistema de IA aprende com dados do passado, e o passado carrega desigualdade: currículo, histórico de crédito, foto de rosto, tudo isso reflete quem teve acesso a quê ao longo de décadas. Um estudo de Stanford publicado em maio de 2026 analisou 4,1 milhões de candidaturas de emprego processadas por IA em 156 empresas e achou impacto adverso contra candidatos negros em 10,6% das vagas. No Brasil, um levantamento da Rede de Observatórios da Segurança mostrou que 90,5% dos presos por reconhecimento facial no país são pessoas negras. Isso não quer dizer que a IA é “má”: quer dizer que ela reproduz, em escala e em segundos, um viés que já existia devagar e disperso. A boa notícia é que dá pra testar isso na sua empresa antes que vire problema, e a lei brasileira já está caminhando pra cobrar isso oficialmente. Eu explico os dois abaixo.

A inteligência artificial tem viés ou preconceito?

Tem, e o mecanismo é mais simples do que parece. Um modelo de IA não “pensa” em raça, gênero ou classe social. Ele aprende padrões estatísticos a partir dos dados que recebeu de treino. Se esses dados refletem uma desigualdade histórica (mais homens em cargos de liderança, mais recusa de crédito em certos CEPs, mais prisão em determinados bairros), o modelo aprende esse padrão como se fosse regra, não como injustiça a ser corrigida. É viés por dado histórico (o mais comum, mas não o único): também existe viés por rótulo (quando quem classificou os dados de treino já tinha um preconceito) e viés por proxy (quando uma variável neutra na aparência, tipo CEP ou nome de escola, na prática funciona como substituta de raça ou classe).

O caso mais citado no mundo todo é o da Amazon. Entre 2014 e 2017 a empresa testou internamente um sistema de triagem de currículos que penalizava candidatas mulheres, porque tinha sido treinado com dez anos de contratações de uma área historicamente masculina. O sistema “aprendeu” que currículo de mulher valia menos, e chegou a rebaixar automaticamente currículos que citavam a palavra “feminino” (como em “capitã do time de xadrez feminino”). A Amazon descartou a ferramenta antes de usá-la em produção, mas o caso virou referência de manual sobre como um sistema pode discriminar sem ninguém ter escrito uma linha de código dizendo pra discriminar.

O dado mais recente e mais robusto sobre isso é o estudo “Algorithmic Monocultures in Hiring”, de pesquisadores de Stanford, Chapman University e Northeastern University, apresentado em maio de 2026 na ACM Conference on Fairness, Accountability, and Transparency, em Montreal. Eles analisaram 4.156.000 candidaturas de 3 milhões de pessoas, em 156 grandes empregadores que usam a mesma plataforma de triagem por IA (a Pymetrics, hoje operada pela Harver). O resultado: candidatos negros tiveram resultado discriminatório, pelos critérios federais americanos de impacto adverso, em 25,87% de todas as suas candidaturas; candidatos asiáticos, em 14,74%. Olhando vaga por vaga, 10,62% das 1.746 posições analisadas mostraram impacto adverso contra candidatos negros. E tem um problema extra que a pesquisa batizou de “monocultura algorítmica”: como várias empresas usam a mesma ferramenta de poucos fornecedores, quem é rejeitado por um empregador tem chance bem maior de ser rejeitado por todos os outros que usam a mesma IA. O viés não fica isolado, ele se propaga pelo mercado inteiro.

No Brasil, o exemplo mais documentado é o reconhecimento facial usado em segurança pública. A Rede de Observatórios da Segurança levantou que, entre março e outubro de 2019, 90,5% das pessoas presas com apoio de reconhecimento facial no país eram negras, e o problema segue atual: durante o Carnaval de 2026 na Micareta de Feira de Santana (BA), o sistema gerou 903 alertas de possível procurado, mas só resultou em 15 prisões efetivas (mais de 96% dos alertas não levaram a nada). A literatura sobre o tema mostra que esse tipo de erro (falso positivo) recai desproporcionalmente sobre pessoas negras, porque os bancos de imagem de treino desses sistemas historicamente tiveram menos rostos negros representados, o que piora a taxa de acerto justamente nesse grupo.

Como saber se um sistema de IA está discriminando pessoas?

O problema é que viés algorítmico quase nunca aparece como um erro isolado e óbvio: ele aparece como um padrão em números agregados que ninguém olhou de perto. Alguns sinais que merecem investigação:

Sinal de alerta	O que verificar
Taxa de aprovação muito diferente entre grupos	Compare taxa de seleção/aprovação por gênero, raça (autodeclarada) ou faixa de CEP: se um grupo é selecionado a menos de 80% da taxa do grupo mais selecionado, é sinal de impacto adverso (é a “regra dos 4/5”, usada como referência prática nos EUA e cada vez mais citada em auditorias no Brasil)
Variável “neutra” que na prática separa grupos	CEP, nome da escola, tipo de fonte de renda, nome próprio: todas podem funcionar como proxy de raça ou classe social mesmo sem citar isso diretamente
Ninguém consegue explicar uma recusa específica	Se o time não sabe dizer POR QUE a IA recusou um candidato, um cliente ou uma proposta de crédito específicos, o sistema está sendo usado sem controle, e sem explicação não tem como auditar viés
O modelo nunca foi testado depois de treinado, só antes	Viés pode aparecer com o tempo, conforme o perfil de quem usa o sistema muda (chamado de “desvio de dados” ou data drift): testar só uma vez, na largada, não é suficiente

Como testar se a IA da sua empresa tem viés? (passo a passo)

Aqui na CPDF (Comunidade Profissionais do Futuro - por Danilo Gato) a gente ensina uso prático de IA pra empresa, e viés é um dos pontos que mais aparece como dúvida de quem já está usando IA pra triagem de currículo, atendimento ou análise de crédito e nunca testou isso formalmente. O teste mais simples e mais usado por equipes de dados chama-se teste de substituição de atributo (attribute swap test), e dá pra fazer sem precisar de um cientista de dados dedicado:

1. Escolha um ponto de decisão real que passa por IA. Pode ser triagem de currículo, priorização de ticket de suporte, score de crédito, resposta automática de atendimento: qualquer lugar onde a IA filtra, prioriza ou decide algo sobre uma pessoa.
2. Monte um conjunto de casos-teste idênticos, variando só o atributo protegido. Pegue 20 a 30 currículos (ou perfis) fictícios com exatamente a mesma qualificação, e crie pares trocando só o nome (associado a gênero ou origem étnica), o CEP, ou a idade indicada. O resto do conteúdo tem que ser rigorosamente igual.
3. Rode os dois conjuntos pela mesma IA, no mesmo dia, nas mesmas condições. Registre o resultado de cada um: aprovado, recusado, pontuação, prioridade atribuída.
4. Calcule a taxa de seleção por grupo e compare. Se um grupo é aprovado numa taxa menor que 80% da taxa do grupo mais aprovado (a regra dos 4/5 mencionada na tabela acima), isso já é sinal prático de que vale investigar mais fundo. Não é prova jurídica definitiva, mas é o alarme que faz sentido disparar internamente.
5. Documente e corrija. Se achar disparidade, três caminhos práticos: remova ou substitua a variável que está funcionando como proxy, adicione um checkpoint de revisão humana pra decisões que a IA classificar como “limítrofes”, e repita esse teste periodicamente. Trimestral é um intervalo razoável pra maioria dos casos de uso.

Esse tipo de rotina de teste deveria estar dentro da política interna de uso de IA da empresa, não como projeto avulso: eu já expliquei como montar essa política do zero aqui, incluindo quem aprova o quê e como documentar decisão automatizada.

Como usar IA de forma ética na empresa?

Depois de testar, o que sustenta uso ético de IA no dia a dia é rotina, não promessa única. Cinco práticas que valem pra qualquer empresa, do pequeno negócio ao time grande:

• Mantenha humano no loop pra decisão que afeta pessoa de forma relevante (contratação, crédito, demissão, elegibilidade a benefício): a IA pode pré-filtrar ou sugerir, mas a decisão final que impacta alguém de forma séria não deveria ser 100% automática.
• Documente por que a IA decidiu o que decidiu, mesmo que de forma resumida: se ninguém no time consegue explicar uma recusa, ninguém consegue defender ela depois (nem corrigir se estiver errada).
• Cuidado redobrado com dado sensível. Sistema de IA que usa dado pessoal pra decidir sobre alguém esbarra direto na LGPD: eu detalhei os riscos concretos e como evitar multa aqui.
• Desconfie de resposta de IA que parece confiante demais sem fonte. Um sistema enviesado às vezes justifica a própria decisão com uma explicação que soa plausível mas é inventada, o mesmo mecanismo por trás da alucinação de IA pode mascarar um viés real atrás de uma explicação bonita.
• Teste de novo depois que o uso mudar de escala. Um sistema testado com 50 casos internos se comporta diferente com 5 mil usuários reais: repita a auditoria quando o volume ou o público mudar de forma relevante.

O que o Marco Legal da IA (PL 2338) já cobra sobre viés?

O PL 2338/2023, aprovado pelo Senado e hoje em comissão especial na Câmara dos Deputados, é a proposta que vai virar o marco regulatório da IA no Brasil, e viés algorítmico está no centro dela, não é detalhe. O texto proíbe discriminação direta, indireta ou por viés algorítmico com base em raça, gênero, orientação sexual, religião, convicção política, condição socioeconômica ou deficiência, e exige que quem desenvolve ou usa sistema de IA adote medidas pra mitigar viés discriminatório tanto na fase de desenvolvimento quanto na de uso real dentro da empresa: a responsabilidade não é só de quem programou o modelo lá atrás, é também de quem decide aplicar ele numa decisão real hoje.

O projeto também cria um catálogo de direitos pra quem for afetado por uma decisão de IA: direito a pedir explicação técnica e compreensível sobre os critérios usados, os dados considerados relevantes e a lógica geral por trás da decisão. Isso ainda não é lei em vigor (o texto segue em tramitação), mas já funciona como referência de boas práticas: empresa que já documenta critério, testa viés periodicamente e sabe explicar uma decisão automatizada não vai precisar correr atrás quando (e é questão de quando, não de se) essa exigência virar obrigação formal.

Testar viés não é burocracia extra: é a diferença entre uma IA que amplifica desigualdade sem ninguém perceber e uma IA que a sua empresa usa com controle real sobre o que ela está decidindo em nome de vocês.