Mal funcionamiento de la seguridad de la IA
Adolescente esposado por la policía después de que el sistema fallara
fue publicado
cnn
Un sistema de seguridad de IA detectó a un adolescente con un arma e inmediatamente alertó a la policía en Baltimore… bueno, al menos eso pensó, pero lo único que mostró fue una bolsa de quesos.
Nuevas imágenes de la cámara corporal de Kenwood High School en el condado de Baltimore, Maryland, capturaron el incidente donde Taki Allen (un estudiante de 16 años) es cacheado mientras está esposado después de que un sistema de detección de armas impulsado por inteligencia artificial lo señalara, creyendo que llevaba una.
Después de registrarlo, no encontraron nada… un oficial en la cámara corporal intenta explicar mientras el sistema de inteligencia artificial activa la alarma debido a la “forma en que ustedes estaban comiendo papas fritas, Doritos las levantó como un arma”.
La escuela utiliza Omnilert, un programa que utiliza las cámaras existentes de la escuela para detectar objetos que parecen armas y luego alerta a los agentes de seguridad de la escuela y a las autoridades.
Allen habló con la estación de noticias local WBAL-TV 11 News… y dijo que tenía dos manos en la bolsa de chips con un dedo sobresaliendo cuando el sistema lo señaló; no está claro si Omnialert pensó que el dedo era un arma.
Un portavoz del Departamento del Sheriff del condado de Baltimore nos dice… “Los oficiales respondieron de manera apropiada y proporcional en base a la información proporcionada en ese momento. El incidente se resolvió de manera segura después de que se determinó que no había ninguna amenaza”.
La IA puede ser una gran herramienta… pero seguro que no siempre es correcta y, afortunadamente, nadie resultó herido aquí.
