Soluciones

IA responsable y Seguridad operativa

Análisis de vídeo respetuoso con los derechos para la seguridad vial, el control de acceso y la verificación de eventos — dentro de salvaguardias explícitas, no como vigilancia masiva.

El reto

Las ciudades, los servicios públicos y los operadores de infraestructura en África enfrentan cada vez más un problema real de seguridad operativa: altas tasas de lesiones de tráfico, depósitos y subestaciones difíciles de asegurar, puntos de entrada controlados que aún dependen de revisiones manuales lentas, sitios críticos que necesitan verificación rápida de eventos y una creciente presión comercial para desplegar cámaras «IA», sistemas de aplicación vial y verificación de identidad sin un plan de gobernanza. La base de evidencia internacional es inequívoca: la analítica de seguridad y operaciones impulsada por IA puede entregar beneficio público cuando los casos de uso son estrechos y las salvaguardas son fuertes, y puede dañar derechos y confianza con rapidez cuando no lo son. El trabajo centrado en las personas de ONU-Hábitat, el Marco de Política de Datos de la Unión Africana y el trabajo de la OCDE sobre IA en el sector público apuntan a la misma conclusión. Esta página está escrita para reflejarlo.

Por qué importa ahora en las ciudades africanas

La seguridad vial, la seguridad de depósitos y subestaciones, la protección de activos públicos y la verificación de eventos son problemas concretos del día a día para los equipos municipales y de servicios públicos. Al mismo tiempo, un análisis revisado por pares de programas smart city africanos publicado a través de Cambridge identifica violaciones de protección de datos, exclusión digital, exceso de vigilancia, sesgo y falta de transparencia como fallos recurrentes de despliegues mal gobernados. La oportunidad es capturar los beneficios operativos donde están bien evidenciados, mientras se rechazan los casos de uso que no lo están. El trabajo de la OCDE sobre IA en compras públicas señala que la mayoría de las iniciativas de IA gubernamental siguen en fases piloto o de exploración, con escala limitada y documentación pública limitada — así que la postura de despliegue tiene que coincidir: pilotar, evaluar, documentar y solo entonces escalar.

Cómo pensamos la analítica de seguridad responsable

Tres principios hacen la mayor parte del trabajo:

Beneficio público, definido estrechamente. La analítica de seguridad y operaciones impulsada por IA se justifica por un resultado público específico — menos colisiones en un corredor, procesamiento más rápido de pasaporte e identificación en un punto de entrada controlado, control de acceso en un depósito, verificación más rápida de un evento verificado — y no por una promesa genérica de «inteligencia».
Respetuosa con los derechos por construcción. Base lícita, limitación de propósito, minimización de datos, límites de retención, aviso público, revisión humana y pistas de auditoría son parte del sistema desde el primer día. No se atornillan tras el despliegue.
Pilotar antes de escalar. Cada despliegue comienza con un piloto claramente acotado, corre frente a una línea base, se evalúa de forma independiente y o bien escala con evidencia documentada o se cierra.

Trabajamos con las categorías tecnológicas que están comercialmente maduras en este espacio — reconocimiento automático de matrículas (ANPR/LPR), lectura de documentos e identidad en puntos de entrada controlados, peaje electrónico y cumplimiento de aparcamiento, aplicación de tráfico y zonas, control de acceso, integración de sistemas de gestión de vídeo, despliegues de borde y on-prem, búsqueda de eventos en vídeo — y los integramos en cámaras existentes, servicios de mostrador y patrimonio TI en lugar de reconstruirlo desde cero.

Quiosco automatizado de autoservicio para control de pasaportes dentro de una terminal de aeropuerto — un pasajero escaneando su pasaporte abierto en un lector de documentos con una bahía de lectura iluminada en verde.

Casos de uso en los que trabajamos

Los casos de uso son deliberadamente limitados y atados a una función pública:

Seguridad vial y aplicación de zonas. Aplicación de zonas de velocidad, zonas de bajas emisiones y carriles bus en corredores definidos; protección de zonas escolares; cumplimiento de toques de queda de carga.
Peaje, aparcamiento y aplicación de corredores de carga. Peaje electrónico en corredores definidos, gestión de cumplimiento de aparcamiento, controles de toque de queda de carga y procesamiento de báscula de pesaje — con reglas de retención documentadas y vías de queja.
Verificación de identidad y documentos en puntos de entrada controlados. Lectura de pasaportes y documentos de identidad nacional en pasos fronterizos, quioscos de servicio ciudadano, entradas de depósitos y otros entornos definidos de control de entrada — autenticación de un documento presentado contra su titular, con revisión humana registrada, base lícita y propósito explícito. Autenticación, no vigilancia.
Control de acceso para sitios críticos. Control de acceso de vehículos para depósitos de servicios públicos, subestaciones, estaciones de bombeo de agua, instalaciones de transporte, edificios públicos.
Gestión de vehículos y contratistas. Registro de entrada y salida de flota, responsabilidad de vehículos contratistas, pistas de auditoría para investigación de incidentes.
Integridad operativa en sitios fijos. Monitoreo de perímetro en sitios industriales o de servicios públicos frente a patrones de amenaza documentados, con comportamiento a prueba de fallos y modo degradado.
Verificación y búsqueda de eventos. Búsqueda en vídeo grabado de un evento verificado específico (por ejemplo un incidente reportado a través de un canal de queja), con revisión humana registrada.

Cada caso de uso se acota con el operador y la autoridad titular de derechos relevante antes de que ningún sistema entre en funcionamiento.

Cámara y analítica documental en operación — bobina de referencia de un proveedor que cubre lectura de identidad y documentos, peaje y aparcamiento, y aplicación de corredor de tráfico. Ilustrativo; cada despliegue se acota frente a las salvaguardas siguientes.

Salvaguardas de cumplimiento

Para cada caso de uso activo, el despliegue lleva las siguientes capas — en línea con la guía de ONU-Hábitat, UA y OCDE:

Base lícita y limitación de propósito. Fundamentos legales documentados, propósito nombrado, sin extensión de alcance sin reevaluación.
Evaluación de Impacto en Protección de Datos. Completada antes del despliegue, incluyendo una revisión de discriminación y sesgo donde haya emparejamiento basado en datos.
Minimización y retención de datos. El conjunto de datos más pequeño suficiente para el propósito, la retención más corta suficiente para la necesidad operativa, eliminación documentada.
Aviso público y señalización. Aviso visible y en lenguaje claro sobre lo que hace el sistema, por qué y cómo consultar o quejarse.
Revisión humana. Ninguna decisión automatizada con efecto significativo se toma sin un paso de revisión humana registrado.
Auditabilidad. Registros de acceso, historial de configuración y registros de revisión se conservan y se ponen a disposición del organismo de supervisión competente.
Salvaguardas de contratación. Transparencia, no discriminación, explicabilidad, salida y portabilidad y protección frente al bloqueo de proveedor se escriben en los contratos de contratación (consistentes con el trabajo de la OCDE sobre IA en compras públicas).
Participación comunitaria. Una vía definida de queja e información antes, durante y después del despliegue.

Puerta de control de acceso ANPR a la entrada de un depósito de servicio público o subestación — barrera bajada, cartel de aviso público en lenguaje claro visible al borde del carril.

Lógica de piloto

Operamos en un despliegue de cinco etapas:

Descubrimiento y salvaguardas. Resultado objetivo, grupos objetivo, casos de uso permitidos, EIPD, aviso y configuración de contratación.
Piloto. Uno o dos corredores o sitios; medición de línea base; comunicación comunitaria.
Evaluación. Revisión de KPIs, revisión de sesgo y falsas alarmas, coste-beneficio, ajuste de gobernanza.
Escala. Extensión a más sitios o socios, interoperabilidad, soporte y modelo operativo.
Institucionalizar. Estándares, informes de transparencia, ciclos de auditoría, actualizaciones de contenido en la página pública de aviso.

Saltar directamente del descubrimiento a la escala es el modo de fallo que la revisión de la OCDE sobre proyectos de IA gubernamental describe en detalle; no lo hacemos.

Mesa de revisión de una sola pantalla en una sala de operaciones municipal — un operador revisando un evento marcado con una pista de auditoría registrada, la postura de revisión humana en la práctica.

Cómo medimos los resultados

Los KPIs defendibles son operativos y conscientes de los derechos:

Desempeño operativo. Tiempo medio para verificar un incidente reportado; tiempo medio de procesamiento en puntos de entrada controlados y carriles de peaje; coste por evento procesado comparado con la línea base manual documentada; tasa de falsos positivos en eventos marcados; uptime en nodos de borde; cobertura de las zonas acordadas.
Resultados de seguridad. Cambio en incidentes reportados, lesiones o eventos de acceso no autorizado en corredores y sitios equipados, frente a una línea base publicada.
Pruebas de gobernanza. Proporción de despliegues con EIPD completada, aviso público, retención documentada, revisión humana registrada y pasos de participación comunitaria registrados; número de solicitudes de acceso y quejas tratadas, y tiempo de resolución.
Revisión independiente. Frecuencia y resultado de auditorías independientes.

La evidencia más amplia a nivel africano sobre resultados como reducción de la delincuencia a través de tales sistemas no está especificada en el registro público en el que confiamos; por tanto, medimos lo que podemos defender, y diseñamos pilotos de modo que cualquier afirmación más amplia pueda construirse con el tiempo sobre los propios datos de la ciudad — o retirarse si el piloto no la respalda.

Vista transversal