Mal funcionamiento de la seguridad de la IA
Policías esposan a adolescente después de errores en el sistema de bolsa de chips de arma
Publicado
cnn
Un sistema de seguridad de inteligencia artificial detectó a un adolescente con un arma e inmediatamente alertó a la policía de Baltimore… bueno, al menos eso creía, pero solo estaba informando sobre una bolsa de delicias con queso.
Nuevas imágenes de la cámara corporal de Kenwood High School en el condado de Baltimore, Maryland, capturaron el incidente donde Taki Allen (un estudiante de 16 años) es registrado mientras está esposado después de que un sistema de detección de armas impulsado por inteligencia artificial lo señalara creyendo que portaba un arma.
Después de registrarlo, no encontraron nada… un oficial en la cámara corporal intenta explicarlo mientras el sistema de inteligencia artificial activa la alarma debido a “la forma en que estabas comiendo papas fritas, Doritos lo que sea, lo recogió como un arma”.
La escuela utiliza Omnilert, un programa que aprovecha las transmisiones de las cámaras existentes de la escuela para detectar objetos que parecen armas y luego alerta a los agentes de seguridad de la escuela y a las autoridades.
Allen habló con la estación de noticias local WBAL-TV 11 News… y dijo que tenía dos manos en la bolsa de papas fritas con un dedo sobresaliendo cuando el sistema lo marcó; no está claro si Omnialert pensó que el dedo era un arma.
Un portavoz del Departamento de Policía del Condado de Baltimore nos dijo… “Los oficiales respondieron de manera apropiada y proporcional según la información proporcionada en ese momento. El incidente se resolvió de manera segura después de determinar que no había ninguna amenaza”.
La IA puede ser una gran herramienta… pero ciertamente no siempre es el caso, y es una suerte que nadie haya resultado herido aquí.
