Um consórcio formado por dezessete municípios do interior paulista anunciou na última semana a desativação imediata de um sistema de reconhecimento facial instalado em câmeras de monitoramento urbano, após laudo técnico independente apontar que 73% dos alertas gerados pela tecnologia tinham como alvo predominante pessoas negras e pardas, mesmo em localidades onde esse grupo representa menos da metade da população. A tecnologia era fornecida pela empresa israelense Cognify Urban Solutions, que opera em contratos similares em países da América Latina, África do Sul e Portugal. A decisão marca um precedente inédito no Brasil: é a primeira vez que um consórcio intermunicipal cancela formalmente um contrato de vigilância preditiva com base em laudo de discriminação algorítmica.
O laudo que derrubou o contrato: como o viés foi identificado e documentado
O documento técnico que motivou a suspensão foi produzido pelo Laboratório de Ética em Inteligência Artificial da Universidade Estadual de Campinas, contratado pelo Ministério Público do Estado de São Paulo após série de denúncias feitas por defensores públicos de três municípios do consórcio. O trabalho durou onze meses e analisou 214 mil alertas gerados entre janeiro de 2024 e agosto de 2025 em cidades como Americana, Santa Bárbara d’Oeste, Sumaré e outras quatorze localidades que integram o Consórcio Intermunicipal de Segurança do Circuito das Águas e Região.
A metodologia combinou análise estatística dos metadados de cada alerta com entrevistas realizadas junto a 340 pessoas abordadas pelas polícias municipais a partir de notificações do sistema. O cruzamento revelou que homens negros entre 18 e 35 anos eram acionados pelo algoritmo com frequência 4,7 vezes superior à de homens brancos na mesma faixa etária, mesmo quando os índices de ocorrência criminal por bairro eram equivalentes. Em Sumaré, cidade em que negros e pardos somam 41% da população, esse grupo respondeu por 78% dos alertas de ‘suspeito em monitoramento’, categoria que aciona patrulhamento reativo imediato.
O laudo identificou a origem do problema em duas camadas distintas: a base de dados usada para treinar o modelo de reconhecimento facial, que a própria Cognify admitiu ser composta majoritariamente por fotos de bancos de dados europeus e norte-americanos com sub-representação de fenótipos afro-brasileiros, e o segundo filtro comportamental, que cruzava deslocamento, horário e permanência em determinadas áreas com histórico de ocorrências. Esse segundo filtro, segundo os pesquisadores, operava como amplificador do viés racial contido no primeiro, criando um ciclo em que a vigilância mais intensa sobre negros gerava mais registros de ocorrências envolvendo negros, que por sua vez retroalimentava o modelo como sinal de risco.
O contrato, a empresa e o que não estava escrito nas cláusulas
O contrato firmado em março de 2023 previa pagamento mensal de R$ 1,2 milhão pelo consórcio, totalizando projeção de R$ 43 milhões ao longo dos três anos e meio de vigência. O edital de licitação, examinado pelo Mundo Agora, não continha nenhuma exigência de auditoria de viés algorítmico, nenhuma cláusula sobre a origem das bases de dados de treinamento e nenhuma obrigação de transparência sobre as variáveis usadas no modelo preditivo. A Cognify foi a única empresa a apresentar proposta técnica completa dentro do prazo, o que levantou questionamentos posteriores sobre o nível de concorrência real no processo.
A empresa israelense, em nota divulgada em seu site corporativo no dia 29 de setembro, afirmou que ‘os resultados do laudo refletem dinâmicas sociais preexistentes nos dados de segurança pública, e não limitações técnicas do sistema’. Essa resposta foi classificada pelos pesquisadores da Unicamp como ‘tecnicamente inadequada e eticamente evasiva’, porque ignora que o papel de um sistema preditivo não é reproduzir desigualdades históricas, mas operar de forma neutra ou ao menos transparente quanto às suas limitações. O presidente do consórcio, Rodrigo Sparvoli, prefeito de Nova Odessa, declarou que a empresa não apresentou nenhum plano de correção técnica nos trinta dias previstos como prazo de resposta contratual, o que formalizou a rescisão por inadimplência.
Fontes próximas à negociação indicaram ao Mundo Agora que ao menos dois outros consórcios municipais do estado, um na região de Sorocaba e outro no ABC paulista, possuem contratos ativos com a mesma empresa e estão aguardando orientação jurídica para decidir se solicitam auditorias similares. O Tribunal de Contas do Estado de São Paulo abriu, na última quinta-feira, procedimento para verificar se houve omissão de risco na elaboração dos editais que viabilizaram esses contratos.
Impactos reais sobre pessoas: o que os alertas produziram além de dados
Por trás dos 214 mil alertas analisados existem histórias concretas. O laudo trouxe como anexo 47 relatos sistematizados de pessoas que foram abordadas pela polícia exclusivamente com base em notificações do sistema, sem qualquer outra justificativa de suspeita. Adriano Santos, 24 anos, eletricista em Americana, foi parado cinco vezes em dez meses enquanto esperava o ônibus na mesma parada próxima ao trabalho. Em todas as ocasiões, os policiais mencionaram ‘alerta de monitoramento’ como único fundamento. Ele registrou boletim de ocorrência por constrangimento ilegal na quinta abordagem, o que motivou a inclusão de seu caso no relatório do Ministério Público.
A defensoria pública de Sumaré estimou que ao menos 1.200 pessoas foram abordadas entre 2024 e 2025 em situações equivalentes, sem que nenhuma delas tenha resultado em prisão em flagrante ou autuação criminal. Esse dado isolado não prova discriminação, mas é relevante porque contradiz a lógica de eficiência frequentemente usada para justificar investimentos em vigilância preditiva. O custo por abordagem gerada pelo sistema, calculado pela Unicamp a partir dos valores contratuais, chegou a R$ 3.400 por pessoa parada, número que supera em muito o custo médio de policiamento convencional nas mesmas cidades.
A desativação também expôs uma lacuna crítica: os municípios não possuem protocolo para lidar com os dados biométricos coletados durante o período de funcionamento do sistema. A Lei Geral de Proteção de Dados exige destruição ou anonimização mediante encerramento de contratos, mas nenhum dos municípios confirmou ter recebido garantias formais da Cognify sobre o destino das imagens e templates faciais armazenados nos servidores da empresa, localizados fora do Brasil.
O que este episódio revela sobre o futuro da vigilância urbana no Brasil
A decisão do consórcio paulista acontece num momento em que o país discute o Marco Regulatório de Inteligência Artificial, aprovado em primeiro turno no Senado em agosto deste ano e ainda em negociação na Câmara. O caso reforça o argumento dos setores que defendem a proibição do uso de reconhecimento facial em tempo real em espaços públicos para fins de segurança, seguindo o modelo adotado pela União Europeia no AI Act de 2024. No Brasil, a ausência de regulação específica permitiu que contratos como o do consórcio paulista fossem firmados sem qualquer exigência de auditoria prévia de viés.
O episódio também levanta uma questão sobre responsabilidade distribuída. Quem responde pelos danos causados pelas 1.200 abordagens indevidas: os municípios que contrataram, a empresa que vendeu o sistema, os gestores que assinaram os editais sem cláusulas de proteção ou os técnicos que validaram a implantação sem questionar a origem dos dados de treinamento? Essa cadeia de responsabilidade difusa é exatamente o que torna a regulação urgente, porque sem regras claras cada ator do sistema aponta para o outro enquanto as pessoas abordadas desnecessariamente nas ruas continuam sem reparação.
Observar nos próximos meses se o caso produzirá jurisprudência, se o Marco Regulatório incorporará exigências de auditoria obrigatória antes de contratos públicos com sistemas de IA e se outros consórcios e prefeituras revisarão contratos similares será o termômetro real de quanto este precedente paulista importará além do momento em que foi anunciado.