L'IA identifie à tort un sachet de Doritos comme étant une arme à feu - la police braque ses armes sur un étudiant de 17 ans

Le lycée Kenwood, dans le Maryland, utilise un système de sécurité basé sur l'intelligence artificielle appelé Omnilert, qui utilise les caméras de surveillance existantes pour rechercher en permanence des armes potentielles. Mais le système n'a pas toujours raison. Dans la soirée du 20 octobre, il a détecté par erreur un sac de Doritos - un en-cas populaire aux États-Unis - comme étant une arme à feu.

Les chips appartenaient à Taki Allen, un étudiant de 17 ans qui attendait de se faire raccompagner après l'entraînement de football, vers 19 heures, lorsque les sirènes de la police ont soudain retenti et que huit voitures de patrouille se sont arrêtées. Des agents en sont sortis et ont pointé leurs armes sur lui. " J'ai cru que j'allais mourir... ils avaient des armes sur moi " , a déclaré Allen à CNN. Il a été forcé de s'agenouiller, menotté et fouillé, mais les agents n'ont rien trouvé d'autre qu'un paquet de chips vide sur le sol.

Selon la directrice de l'école, Kate Smith, l'alerte IA avait déjà été annulée avant l'arrivée de la police. Cependant, la mise à jour n'a pas été communiquée à temps, a déclaré un porte-parole du district scolaire à WBAL-TV 11. La directrice de l'école, Myriam Rogers, a qualifié l'incident de "malheureux" et a annoncé un examen complet de la situation. Les élèves concernés bénéficieront d'un soutien psychologique.

Appels à la réforme après une fausse alerte

Après l'incident, le grand-père d'Allen, Lamont Davis, a demandé que l'on rende des comptes et que l'on réforme l'utilisation de la surveillance artificielle. L'événement a également suscité un débat intense sur les médias sociaux. Sur Redditles utilisateurs ont exprimé de vives critiques à l'égard de la police, des responsables de l'école et de la technologie utilisée. Beaucoup ont affirmé que le véritable problème n'était pas l'IA elle-même, mais la façon dont les gens ont réagi après l'alerte. "L'erreur humaine, pas la défaillance de l'IA", peut-on lire dans l'un des principaux commentaires.

Un système conçu pour détecter les armes à un stade précoce a du sens, surtout aux États-Unis, où les fusillades dans les écoles restent une préoccupation majeure. Mais il est essentiel de veiller à ce que ces outils ne deviennent pas eux-mêmes un risque. Cela signifie qu'il faut minimiser les fausses alertes et maintenir une communication claire entre le personnel de sécurité et les forces de l'ordre.