Polícia britânica baseou estratégia de segurança em dado falso gerado por IA

A polícia do condado de West Midlands, no Reino Unido, admitiu ter utilizado informações falsas geradas por inteligência artificial para embasar decisões de segurança pública. A corporação confirmou que incluiu, em um relatório oficial, uma partida de futebol que nunca correu, mas que levou ao banimento da torcida do Maccabi Tel Aviv no jogo contra o Aston Villa pela Liga Europa.

Os dados do jogo inexistente, segundo a instituição, foram alucinações do Microsoft Copilot. O reconhecimento do erro veio por meio de uma carta enviada ao Comitê de Assuntos Internos do Parlamento britânico, na qual a polícia admite não ter havido a devida checagem dos fatos.

No documento, o chefe da força policial, Craig Guildford, reverteu declarações anteriores e confirmou que a ferramenta da Microsoft foi a fonte da desinformação utilizada para justificar restrições a um grupo de torcedores.

Em dezembro, quando questionado inicialmente sobre a inconsistência no relatório, Guildford havia negado o uso de IA. Na ocasião, ele atribuiu o erro a uma “raspagem de dados de redes sociais”.

O relatório defeituoso tinha como objetivo avaliar os riscos de uma partida real pela Liga Europa, realizada em novembro do ano passado, entre o time inglês Aston Villa e o israelense Maccabi Tel Aviv. O documento classificou o evento como de “alto risco”, recomendando o banimento de torcedores visitantes.

Para sustentar a decisão, o texto citava supostos “confrontos violentos e crimes de ódio” ocorridos em um jogo anterior entre o Maccabi e o West Ham. O problema é que essa partida jamais aconteceu: a IA inventou o confronto e o histórico de violência, e os oficiais responsáveis pelo relatório incluíram a informação no documento final sem verificar a veracidade.

Fonte: Tecnoblog