Un adolescente estadounidense fue esposado por policías armados después de que un sistema de inteligencia artificial (IA) afirmara erróneamente que portaba un arma, cuando en realidad sostenía un paquete de patatas fritas.
“La policía apareció como ocho coches de policía, y luego todos hablaban de atacarme con las armas en la mano”, dijo Taki Allen, estudiante de Baltimore de 16 años. dijo al medio local WMAR-2 News.
El Departamento de Policía del condado de Baltimore dijo que sus agentes “respondieron de manera apropiada y proporcional según la información proporcionada en ese momento”.
Dijo que la alerta de IA se envió a revisores humanos que determinaron que no había ninguna amenaza, pero el director no se dio cuenta y contactó al equipo de seguridad de la escuela, quien finalmente llamó a la policía.
Pero el incidente ha llevado a algunos a pedir una revisión de las políticas escolares sobre el uso de dicha tecnología.
Allen dijo a las noticias locales que terminó una bolsa de Doritos después de la práctica de fútbol y se guardó el paquete vacío en el bolsillo.
La policía armada llegó después de 20 minutos, dijo.
“Me dijo que me arrodillara, me arrestó y me esposaron”, dijo.
El Departamento de Policía del condado de Baltimore le dijo a BBC News que Allen fue esposado pero no arrestado.
“El incidente se resolvió de forma segura después de que se determinó que no había ningún riesgo”, dijeron en un comunicado.
Allen dijo que esperó adentro después de la práctica de fútbol porque no creía que fuera “lo suficientemente seguro como para salir, especialmente comiendo una bolsa de papas fritas o bebiendo cualquier cosa”.
En una carta a los padres, la directora de la escuela, Kate Smith, dijo que el equipo de seguridad de la escuela “rescindió la advertencia inicial después de una revisión rápida y determinó que no había ningún arma”.
“Me comuniqué con nuestro oficial de recursos escolares (SRO) y le informé del asunto y él se comunicó con el distrito local para obtener apoyo adicional”, dijo.
“Los agentes de policía acudieron a la escuela, registraron al individuo y rápidamente confirmaron que no portaba armas”.
Pero los políticos locales pidieron que se investigara más a fondo el incidente.
“Hago un llamado a las escuelas públicas del condado de Baltimore para que revisen sus políticas relativas a su sistema de detección de armas impulsado por inteligencia artificial”, dijo el concejal local del condado de Baltimore, Izzy Pakota. Escribió en Facebook.
La BBC se ha puesto en contacto con Omnilert, el supuesto proveedor de la herramienta de inteligencia artificial, para solicitar comentarios.
Omnilert dice que es un “proveedor líder” de detección de armas de IA, citando varias escuelas de EE. UU. en sus estudios de caso. en su sitio web.
La compañía afirma que su tecnología utiliza datos reales y diferenciados, lo que conduce a “una identificación más confiable, menos falsos positivos y un sistema que realmente funciona donde más importa”.
“El reconocimiento de armas en el mundo real es abismal”, afirmó. “La iluminación cambia, las armas vienen en todas las formas y los ambientes están llenos de ruido y movimiento.
“Nuestra metodología centrada en datos entrena a la IA para tener éxito en estos escenarios exactos, porque utilizamos datos reales de situaciones reales, no simulaciones”.
Pero Allen dijo: “No creo que una bolsa de chips deba confundirse con un arma”.
La capacidad de la IA para detectar armas con precisión está sujeta a escrutinio.
El año pasado, una empresa estadounidense de escaneo de armas, Evolv Technology Tiene prohibido hacer afirmaciones sin fundamento sobre sus productos. Su escáner de inteligencia artificial, utilizado en las entradas de miles de escuelas, hospitales y estadios estadounidenses, puede detectar todas las armas.
BBC News investiga Se ha demostrado que estas afirmaciones son falsas..
