São Paulo lança sistema de vigilância com IA para capturar criminosos e errar em inocentes

No centro histórico de São Paulo, um dispositivo chamado “prisômetro” contabiliza o número de pessoas presas e marca a entrada da central de monitoramento Smart Sampa: um sistema de vigilância massiva que acompanha a cidade através de milhares de câmeras.

Com 40 mil câmeras espalhadas pela cidade mais rica e populosa do Brasil, o Smart Sampa é o maior programa de reconhecimento facial com inteligência artificial da América Latina. Essa iniciativa pública é elogiada pelas autoridades, ainda que apresente uma margem específica de erro.

Em resposta à crescente insegurança urbana, a cidade implementou essa tecnologia no final de 2024, conseguindo identificar quase 3 mil fugitivos por meio da comparação em tempo real das imagens captadas com os registros judiciais, além de prender quase 4 mil pessoas em flagrante.

“Com os fugitivos que o sistema capturou, podemos preencher sete penitenciárias. Hoje, não consigo imaginar São Paulo sem o Smart Sampa”, afirma Orlando Morando, secretário municipal de Segurança Urbana, no centro de monitoramento, destacando o programa que tem custo aproximado de 9,8 milhões de reais por mês.

Ele demonstra o sistema inserindo sua própria foto para instantaneamente visualizar todos os momentos e locais em São Paulo onde seu rosto foi detectado por alguma câmera.

“Me lembra o livro ‘1984’ (sobre um regime totalitário, de George Orwell), com todo o controle sobre as pessoas: acho ótimo, apoio 100%”, comenta Sonia Ferreira Silva, aposentada de 68 anos, próximo a um posto móvel do Smart Sampa na Avenida Paulista.

Prisões equivocadas

Relatórios oficiais de transparência, publicados pela AFP, indicam que mais de 8% das pessoas abordadas e levadas para a delegacia após terem sido identificadas pelo Smart Sampa como foragidas foram liberadas por erro do sistema.

Pelo menos 59 detidos foram soltos porque o sistema os confundiu com outras pessoas.

Em dezembro, um idoso de 80 anos teve sua chegada atrasada por horas devido a uma confusão do reconhecimento facial, que o associou erroneamente a um criminoso.

Em um caso anterior, um grupo de pacientes em tratamento em um centro psiquiátrico foi surpreendido por policiais armados que levaram algemado um dos pacientes; ele foi liberado horas depois, pois o mandado de prisão estava desatualizado.

O Smart Sampa utiliza câmeras de ruas, prédios públicos — como centros de saúde — e prédios privados que autorizam seu uso.

Mais de 141 pessoas foram presas com base em mandados judicialmente desatualizados, porém o governo paulista alega que esses equívocos são responsabilidade do sistema judiciário.

“Nenhuma pessoa ficou detida devido a falhas do Smart Sampa: todos os casos de erro resultaram em liberação”, afirma Morando, representando o governo do prefeito Ricardo Nunes (MDB).

Perfil dos presos e impacto na criminalidade

São Paulo enfrenta altos índices de crimes contra patrimônio; em 2024, quase 20% dos roubos de celulares no país ocorreram na cidade.

Entre os presos via Smart Sampa, grande parte foi detida por crimes classificados como “outros” nos registros oficiais.

A maioria desses casos envolve devedores de pensão alimentícia, uma infração civil que pouco impacta a segurança pública, conforme apontado no relatório “Smart Sampa: Transparência para quem? Transparência de quê?”.

“O sistema é mostrado como solução contra o crime, mas na prática é usado para controle civil”, alerta Amarilis Costa, diretora da Rede Liberdade, organização formada por advogados e coautora do referido relatório.

O governo defende a eficácia e rebate as críticas, anunciando uma redução de quase 15% nos roubos em 2025.

Questões raciais e demográficas

Por outro lado, os dados oficiais deixam em branco a identificação racial de mais da metade dos presos, deixando em aberto a possibilidade do sistema apresentar vieses raciais, especialmente em um país com grande população negra.

Estudos internacionais indicam que sistemas de reconhecimento facial com IA têm tendência a cometer mais erros ao identificar pessoas negras.

As autoridades afirmam que a falta de dados é responsabilidade do sistema judiciário.

“O Smart Sampa não tem nenhum preconceito, aqui não prendemos por cor”, reforça Morando.

A maior parte dos detidos pelo sistema reside em bairros periféricos, e muitos deles são migrantes do interior do país.