O que mudou

A autoridade de proteção de dados dos Países Baixos aplicou à Uber uma multa de € 824,99 milhões. Segundo o regulador, entre 2018 e 2022 sistemas da plataforma bloquearam contas de motoristas, em alguns casos de forma permanente, sem informação adequada e sem uma pessoa verificando possíveis erros.

A decisão trata de processamento automatizado: quando um sistema analisa dados e toma uma decisão sem participação humana significativa. A Uber contesta tanto as conclusões quanto o valor, afirma que as práticas analisadas são antigas e diz que seus processos atuais incluem revisão humana e possibilidade de recurso; a empresa anunciou que recorrerá.

O ponto central, portanto, não é concluir que toda automação é indevida. É reconhecer que a velocidade de uma máquina também amplia o efeito de dados ruins, regras incompletas ou sinais interpretados fora de contexto quando o resultado pode interromper a renda de alguém.

Por que isso importa

Para um motorista de aplicativo, perder acesso à conta pode significar perder imediatamente a ferramenta de trabalho. Em outros setores, decisões semelhantes podem bloquear um pagamento, negar crédito, eliminar um candidato de uma seleção ou impedir o acesso a um serviço essencial.

Na Europa, a regra invocada no caso protege pessoas contra decisões inteiramente automáticas com efeitos jurídicos ou impacto semelhante, salvo situações específicas. No Brasil, a ANPD destaca que a LGPD garante o direito de solicitar revisão e explicações sobre critérios e procedimentos; na prática, uma revisão humana só é útil quando quem revisa entende o caso, acessa informações relevantes e tem autoridade real para mudar o resultado.

Imagine um sistema antifraude que bloqueia uma conta porque detectou uma mudança incomum de localização. Sem contexto, ele pode tratar uma viagem legítima como risco; sem explicação e canal de contestação, a pessoa não consegue corrigir o dado nem demonstrar o que aconteceu. A eficiência operacional vira um custo humano e reputacional.

Dados confiáveis vêm antes da automação

Todo sistema de decisão depende dos dados que recebe: avaliações, histórico, localização, documentos e sinais de risco. Saneamento de Dados significa identificar duplicidades, informações desatualizadas, campos incoerentes e falta de contexto antes que esses registros alimentem regras ou modelos. Não é apenas arrumar uma base; é reduzir a chance de um erro operacional se transformar em prejuízo real.

Também é necessário conhecer a origem de cada dado e registrar como ele contribuiu para a decisão. Esse rastro permite investigar falsos positivos — casos legítimos classificados como problema —, comparar o desempenho entre grupos e explicar o resultado em linguagem que uma pessoa possa compreender.

Quanto maior a consequência, maior deve ser a qualidade exigida. Um sistema que ordena conteúdos pode admitir correções simples; um sistema que altera renda, crédito, saúde ou acesso a direitos precisa de testes, monitoramento, documentação e caminhos rápidos de reversão.

O que empresas podem aprender

Governança não deve entrar apenas depois que a automação está pronta. Uma Célula de Tecnologia pode reunir produto, dados, operação, segurança, jurídico e atendimento para definir quais decisões podem ser automáticas, quais exigem confirmação humana e como cada pessoa será informada.

O objetivo não é desacelerar toda inovação, mas escolher onde a velocidade é segura. Quando a empresa combina dados saneados, limites claros e revisão humana de verdade, a automação ganha algo que um modelo sozinho não entrega: legitimidade para operar em situações que afetam pessoas.

• Mapeie decisões automáticas e classifique o impacto de cada uma.
• Valide qualidade, origem e contexto dos dados antes de automatizar.
• Explique os fatores relevantes e ofereça contestação acessível.
• Dê ao revisor humano informações, tempo e poder para corrigir o resultado.
• Monitore erros, reversões e efeitos desiguais ao longo do tempo.