Quatro estudantes e ex-alunos de uma escola em Maryland, nos Estados Unidos, entraram com uma ação judicial contra a empresa de tecnologia Omnilert, responsável por um sistema de segurança que confundiu um pacote de salgadinhos com uma arma. O incidente, que gerou grande repercussão, ocorreu após um treino de futebol americano, quando os jovens foram abordados por policiais armados.
Na abordagem, os policiais exigiram que os adolescentes levantassem as mãos e os algemaram, levando a equipe ao estado de choque. De acordo com os relatos, o sistema da Omnilert indicou uma probabilidade de 90% de que havia uma arma no local, levando à intervenção policial. Este fato levantou questionamentos sobre a eficácia do software e os protocolos em situações de emergência.
Os estudantes alegam que a abordagem foi injustificada, ressaltando que o sistema de segurança cometeu um erro grave. Os dados da empresa mostram que mais de 99% dos alertas gerados pelo sistema nas escolas públicas do condado de Baltimore eram falsos positivos, o que coloca em dúvida a confiabilidade do uso da inteligência artificial no monitoramento escolar.
A ação judicial cita não apenas a Omnilert, mas também a polícia do condado de Baltimore e o conselho de educação, incluindo administradores da escola. O presidente de uma organização de direitos civis expressou preocupação sobre o impacto da tecnologia mal utilizada nas vidas dos estudantes, afirmando que eles ficaram extremamente intimidated pelo ocorrido.
A empresa Omnilert, que possui suas ferramentas de segurança utilizadas por diversas instituições, reconheceu o erro e afirmou que está analisando a situação. Um porta-voz da empresa lamentou o medo causado aos jovens e suas famílias, enfatizando a necessidade de respostas.
Este caso evidencia o crescente debate sobre a utilização de tecnologia em contextos de segurança e a necessidade de revisão dos sistemas que utilizam inteligência artificial, especialmente em ambientes escolares.




