Peut-être avez-vous déjà entendu parler de Citizen, cette application américaine censée renforcer la sécurité publique. Son principe est simple : alerter les habitants en temps réel des crimes, accidents ou urgences autour d’eux. Mais derrière cette promesse rassurante, une enquête de 404 Media révèle un tout autre visage : l’intelligence artificielle qui génère ces alertes… se trompe régulièrement, au point de transformer l’outil en source de confusion.

Selon des témoignages internes, l’IA de Citizen diffuse directement les informations captées sur les ondes radio des services d’urgence, sans qu’aucun humain ne vérifie. Résultat : des erreurs en cascade. Des accidents routiers transformés en “accidents avec meurtre”, des victimes inventées comme “un blessé par balle au visage”, des adresses erronées, ou encore des plaques d’immatriculation publiées sans confirmation. Dans certains cas, l’algorithme a même multiplié les alertes pour un seul et même incident, noyant les utilisateurs sous de fausses informations.

Un employé anonyme raconte que « l’IA devenait folle », générant cinq à dix notifications différentes pour un seul fait divers. De quoi semer le doute, voire la panique, au lieu d’apporter de la clarté. Pour 404 Media, on frôle l’auto-sabotage. La polémique s’ajoute à d’autres casseroles. Citizen avait déjà défrayé la chronique en 2021 lors des incendies de Palisades, en mettant à prix la capture d’un homme finalement innocent. Plus récemment, l’entreprise a licencié 13 salariés syndiqués, remplacés par… cette fameuse IA aujourd’hui pointée du doigt. Et le timing est particulièrement mauvais : l’application vient tout juste de nouer un partenariat officiel avec la ville de New York pour lancer le compte NYC Public Safety, censé informer la population en temps réel. Mais avec une IA qui invente des blessés ou transforme un simple accident en scène de crime, difficile d’imaginer que la confiance des utilisateurs sorte indemne. En voulant accélérer et automatiser l’information, Citizen risque d’avoir perdu ce qui comptait le plus : la fiabilité.

SOURCE : https://www.404media.co/citizen-is-using-ai-to-generate-crime-alerts-with-no-human-review-its-making-a-lot-of-mistakes/

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.