IA responsable & Sûreté opérationnelle

Le défi

Villes, opérateurs de services et opérateurs d’infrastructure en Afrique font face à un vrai problème opérationnel-sûreté : taux élevés de blessures de circulation, dépôts et sous-stations difficiles à sécuriser, points d’entrée contrôlés qui dépendent encore de contrôles manuels lents, sites critiques qui ont besoin d’une vérification d’événement rapide, et pression commerciale croissante pour déployer caméras « IA », systèmes d’application routière et de vérification d’identité sans plan de gouvernance. La base de preuves internationale est sans ambiguïté : l’analyse pilotée par IA pour la sûreté et les opérations peut livrer un bénéfice public lorsque les cas d’usage sont étroits et les garde-fous solides, et peut endommager rapidement droits et confiance lorsqu’ils ne le sont pas. Le travail centré sur les habitants d’ONU-Habitat, le cadre de l’Union africaine sur les politiques de données et les travaux de l’OCDE sur l’IA dans le secteur public pointent tous la même conclusion. Cette page est rédigée pour la refléter.

Pourquoi cela importe maintenant dans les villes africaines

Sécurité routière, sécurité des dépôts et sous-stations, protection des actifs publics et vérification d’événements sont des problèmes quotidiens concrets pour les équipes municipales et opérateurs. En même temps, une analyse à comité de lecture des programmes smart city africains publiée à travers Cambridge identifie les violations de protection des données, l’exclusion numérique, l’extension de la surveillance, le biais et l’absence de transparence comme défaillances récurrentes des déploiements mal gouvernés. L’opportunité est de capter les bénéfices opérationnels là où ils sont bien étayés, tout en déclinant les cas d’usage qui ne le sont pas. Les travaux de l’OCDE sur l’IA dans la commande publique notent que la plupart des initiatives d’IA gouvernementale sont encore en phases pilote ou exploration, avec une mise à l’échelle limitée et une documentation publique limitée — donc la posture de déploiement doit correspondre : piloter, évaluer, documenter, et seulement ensuite étendre.

Comment nous pensons l’analyse de sûreté responsable

Trois principes font l’essentiel du travail :

• Bénéfice public, étroitement défini. L’analyse pilotée par IA pour la sûreté et les opérations se justifie par un résultat public spécifique — moins de collisions sur un corridor, traitement plus rapide passeport-et-pièce d’identité à un point d’entrée contrôlé, contrôle d’accès à un dépôt, vérification plus rapide d’un événement vérifié — pas par une promesse générique d’« intelligence ».
• Respectueuse des droits par construction. Base légale, limitation de finalité, minimisation des données, limites de rétention, notification publique, revue humaine et pistes d’audit font partie du système dès le premier jour. Ils ne sont pas vissés après le déploiement.
• Pilote avant échelle. Chaque déploiement commence par un pilote clairement borné, fonctionne contre une base de référence, est évalué de manière indépendante, et s’étend avec des preuves documentées ou est arrêté.

Nous travaillons avec les catégories technologiques commercialement matures dans cet espace — reconnaissance automatique de plaque d’immatriculation (ANPR/LPR), lecture de documents et d’identité aux points d’entrée contrôlés, péage et conformité de stationnement électroniques, application de zones et de circulation, contrôle d’accès, intégration au système de gestion vidéo, déploiements edge et on-prem, recherche d’événement à travers la vidéo — et les intégrons dans les caméras existantes, services de comptoir et SI plutôt que de tout reconstruire.

Cas d’usage sur lesquels nous travaillons

Les cas d’usage sont délibérément limités et liés à une fonction publique :

• Sécurité routière et application de zone. Application de zones à vitesse limitée, de zones à faibles émissions et de couloirs bus sur des corridors définis ; protection de zones scolaires ; conformité aux couvre-feux poids lourds.
• Péage, stationnement et application de corridor poids lourds. Péage électronique sur corridors définis, gestion de la conformité du stationnement, contrôles de couvre-feu poids lourds et traitement de pesage — avec règles de rétention documentées et parcours de plainte.
• Vérification d’identité et de documents aux points d’entrée contrôlés. Lecture de passeports et de pièces d’identité nationales aux postes-frontières, bornes de service citoyen, entrées de dépôts et autres environnements définis de contrôle d’entrée — authentification d’un document présenté contre son détenteur, avec revue humaine consignée, base légale et finalité explicite. Authentification, pas surveillance.
• Contrôle d’accès pour sites critiques. Contrôle d’accès véhicule pour dépôts d’opérateurs de services, sous-stations, stations de pompage d’eau, installations de transport, bâtiments publics.
• Gestion des véhicules et entrepreneurs. Journalisation entrée et sortie de flotte, redevabilité véhicule entrepreneur, pistes d’audit pour enquête d’incident.
• Intégrité opérationnelle aux sites fixes. Surveillance de périmètre sur sites industriels ou de service contre des schémas de menace documentés, avec comportement fail-safe et dégradé.
• Vérification et recherche d’événements. Recherche à travers la vidéo enregistrée d’un événement vérifié spécifique (par exemple un incident signalé via un canal de plainte), avec revue humaine consignée.

Chaque cas d’usage est cadré avec l’opérateur et l’autorité titulaire des droits avant qu’aucun système ne soit mis en service.

Garde-fous de conformité

Pour chaque cas d’usage actif, le déploiement porte les couches suivantes — en ligne avec les orientations ONU-Habitat, UA et OCDE :

• Base légale et limitation de finalité. Fondements juridiques documentés, finalité nommée, pas d’extension de portée sans réévaluation.
• Analyse d’impact relative à la protection des données. Réalisée avant le déploiement, incluant une revue de discrimination et de biais lorsque la mise en correspondance pilotée par les données est impliquée.
• Minimisation des données et rétention. Le plus petit jeu de données suffisant pour la finalité, la rétention la plus courte suffisante pour le besoin opérationnel, suppression documentée.
• Notification publique et signalisation. Notification visible et en langage clair sur ce que le système fait, pourquoi, et comment poser une question ou se plaindre.
• Revue humaine. Aucune décision automatisée à effet significatif n’est prise sans une étape de revue humaine consignée.
• Auditabilité. Journaux d’accès, historique de configuration et registres de revue sont conservés et mis à disposition de l’organe de supervision compétent.
• Garde-fous de commande publique. Transparence, non-discrimination, explicabilité, sortie et portabilité, et protection contre le verrouillage fournisseur sont écrites dans les contrats de commande (en cohérence avec les travaux de l’OCDE sur l’IA dans la commande publique).
• Engagement communautaire. Un parcours défini de plainte et d’information avant, pendant et après le déploiement.

Logique de pilote

Nous opérons selon un déploiement en cinq étapes :

1. Découverte et garde-fous. Résultat cible, groupes cibles, cas d’usage permis, AIPD, notification et configuration de commande.
2. Pilote. Un ou deux corridors ou sites ; mesure de référence ; communication communautaire.
3. Évaluation. Revue des KPI, revue des biais et des fausses alarmes, coût-bénéfice, ajustement de gouvernance.
4. Échelle. Extension à d’autres sites ou partenaires, interopérabilité, support et modèle d’exploitation.
5. Institutionnalisation. Standards, rapports de transparence, cycles d’audit, mises à jour de contenu sur la page d’information publique.

Sauter directement de la découverte à l’échelle est le mode de défaillance que la revue OCDE des projets d’IA gouvernementale décrit en détail ; nous ne le faisons pas.

Comment nous mesurons les résultats

Les KPI défendables sont opérationnels et conscients des droits :

• Performance opérationnelle. Temps moyen pour vérifier un incident signalé ; temps moyen de traitement aux points d’entrée contrôlés et voies de péage ; coût par événement traité comparé à la référence manuelle documentée ; taux de faux positifs sur les événements signalés ; uptime sur les nœuds edge ; couverture des zones convenues.
• Résultats de sécurité. Variation des incidents, blessures ou événements d’accès non autorisé signalés sur les corridors et sites équipés, contre une base publiée.
• Points de preuve de gouvernance. Part des déploiements avec AIPD complétée, notification publique, rétention documentée, revue humaine consignée et étapes d’engagement communautaire enregistrées ; nombre de demandes d’accès et plaintes traitées, et délai de résolution.
• Revue indépendante. Fréquence et résultat des audits indépendants.

Les preuves plus larges au niveau de l’Afrique sur des résultats tels que la réduction de la criminalité par de tels systèmes ne sont pas spécifiées dans le registre public en lequel nous avons confiance ; nous mesurons donc ce que nous pouvons défendre, et concevons les pilotes de sorte que toute revendication plus large puisse être bâtie au fil du temps sur les propres données de la ville — ou retirée si le pilote ne la soutient pas.