IA que confundiu Doritos com arma gera novo alerta falso

Alunos da Parkville High School, no Condado de Baltimore (EUA), foram transferidos para uma área segura na última sexta-feira (07/11). O motivo? O sistema de segurança de inteligência artificial Omnilert emitiu um alerta falso sobre uma possível arma de fogo nas instalações.

Não é a primeira vez. No final de outubro, o mesmo sistema confundiu um pacote de Doritos com uma arma de fogo em outra escola. Na ocasião, agentes responderam a um chamado de “pessoa suspeita portando arma” e chegaram a algemar estudantes antes de confirmar o engano.

O Departamento de Polícia local respondeu ao novo chamado, revistou a propriedade e não encontrou nenhuma ameaça. Em mensagem enviada às famílias, a diretora da escola, Maureen Astarita, informou que os alunos permaneceram sob supervisão em local seguro durante o procedimento.

O Omnilert é um sistema de segurança que utiliza inteligência artificial para detecção visual de ameaças. O software treinado para identificar objetos parecidos com armas de fogo monitora imagens de câmeras e, quando detecta algo suspeito, envia um alerta — mas não aciona a polícia diretamente.

O protocolo estabelecido pelas Escolas Públicas do Condado de Baltimore (BCPS) determina que o alerta seja enviado primeiro ao Departamento de Segurança Escolar. Nesse ponto, a participação do Omnilert no processo termina.

Cabe aos funcionários humanos avaliar as imagens sinalizadas pela IA. Se a ameaça for confirmada, eles acionam o Departamento de Polícia para iniciar a resposta. Caso o alerta seja considerado um falso positivo, ele é simplesmente descartado, sem que outras medidas sejam tomadas.

Fonte: Tecnoblog