IA responsável e Segurança operacional

O desafio

Cidades, operadores de serviço e operadores de infraestrutura em África enfrentam cada vez mais um problema operacional-segurança real: taxas elevadas de feridos de tráfego, depósitos e subestações difíceis de proteger, pontos de entrada controlados que ainda dependem de verificações manuais lentas, sítios críticos que precisam de verificação rápida de eventos e pressão comercial crescente para implementar câmaras «IA», sistemas de fiscalização rodoviária e de verificação de identidade sem um plano de governação. A base de evidência internacional é inequívoca: a análise impulsionada por IA para segurança e operações pode entregar benefício público quando os casos de uso são estreitos e as salvaguardas são fortes, e pode prejudicar rapidamente direitos e confiança quando não são. O trabalho centrado nas pessoas da ONU-Habitat, o Quadro de Política de Dados da União Africana e o trabalho da OCDE sobre IA no setor público apontam para a mesma conclusão. Esta página é escrita para o refletir.

Porque é que isto importa agora nas cidades africanas

A segurança rodoviária, a segurança de depósitos e subestações, a proteção de ativos públicos e a verificação de eventos são problemas concretos do dia a dia para as equipas municipais e de serviço. Ao mesmo tempo, uma análise revista por pares dos programas smart city africanos publicada através de Cambridge identifica violações de proteção de dados, exclusão digital, excesso de vigilância, viés e ausência de transparência como falhas recorrentes de implementações mal governadas. A oportunidade é capturar os benefícios operacionais onde estão bem evidenciados, recusando os casos de uso que não estão. O trabalho da OCDE sobre IA na contratação pública nota que a maioria das iniciativas de IA governamental ainda está em fase piloto ou exploratória, com escala limitada e documentação pública limitada — pelo que a postura de implementação tem de coincidir: pilotar, avaliar, documentar e só depois escalar.

Como pensamos a análise de segurança responsável

Três princípios fazem a maior parte do trabalho:

• Benefício público, definido estreitamente. A análise impulsionada por IA para segurança e operações justifica-se por um resultado público específico — menos colisões num corredor, processamento mais rápido de passaporte e identificação num ponto de entrada controlado, controlo de acessos num depósito, verificação mais rápida de um evento verificado — e não por uma promessa genérica de «inteligência».
• Respeitadora dos direitos por construção. Base lícita, limitação de finalidade, minimização de dados, limites de retenção, aviso público, revisão humana e trilhas de auditoria fazem parte do sistema desde o primeiro dia. Não são aparafusadas depois da implementação.
• Pilotar antes de escalar. Cada implementação começa com um piloto claramente delimitado, corre face a uma linha de base, é avaliada de forma independente e ou escala com evidência documentada ou é encerrada.

Trabalhamos com as categorias tecnológicas que estão comercialmente maduras neste espaço — reconhecimento automático de matrículas (ANPR/LPR), leitura de documentos e identidade em pontos de entrada controlados, portagem eletrónica e cumprimento de estacionamento, fiscalização de tráfego e zonas, controlo de acessos, integração de sistemas de gestão de vídeo, implementações de borda e on-prem, pesquisa de eventos em vídeo — e integramo-las nas câmaras existentes, serviços de balcão e património de TI em vez de reconstruir tudo do zero.

Casos de uso em que trabalhamos

Os casos de uso são deliberadamente limitados e ligados a uma função pública:

• Segurança rodoviária e fiscalização de zonas. Fiscalização de zonas de velocidade, zonas de baixas emissões e corredores bus em corredores definidos; proteção de zonas escolares; cumprimento de proibições horárias para mercadorias.
• Portagem, estacionamento e fiscalização de corredores de mercadorias. Portagem eletrónica em corredores definidos, gestão de cumprimento de estacionamento, controlos de proibição horária de mercadorias e processamento de pesagem — com regras de retenção documentadas e percursos de reclamação.
• Verificação de identidade e documentos em pontos de entrada controlados. Leitura de passaportes e cartões de cidadão em postos de fronteira, quiosques de serviço ao cidadão, entradas de depósitos e outros ambientes definidos de controlo de entrada — autenticação de um documento apresentado contra o seu titular, com revisão humana registada, base lícita e finalidade explícita. Autenticação, e não vigilância.
• Controlo de acessos para sítios críticos. Controlo de acessos de veículos para depósitos de operadores de serviço, subestações, estações de bombagem de água, instalações de transporte, edifícios públicos.
• Gestão de veículos e empreiteiros. Registo de entrada e saída de frota, responsabilização de veículos de empreiteiros, trilhas de auditoria para investigação de incidentes.
• Integridade operacional em sítios fixos. Monitorização de perímetro em sítios industriais ou de operadores de serviço face a padrões de ameaça documentados, com comportamento à prova de falha e em modo degradado.
• Verificação e pesquisa de eventos. Pesquisa em vídeo gravado de um evento verificado específico (por exemplo um incidente reportado por um canal de reclamação), com revisão humana registada.

Cada caso de uso é delimitado com o operador e a autoridade titular dos direitos relevante antes de qualquer sistema entrar em serviço.

Salvaguardas de conformidade

Para cada caso de uso ativo, a implementação carrega as seguintes camadas — em linha com a orientação da ONU-Habitat, da UA e da OCDE:

• Base lícita e limitação de finalidade. Fundamentos legais documentados, finalidade nomeada, sem extensão de âmbito sem reavaliação.
• Avaliação de Impacto sobre a Proteção de Dados. Concluída antes da implementação, incluindo uma revisão de discriminação e viés sempre que esteja envolvido emparelhamento orientado por dados.
• Minimização e retenção de dados. O conjunto de dados mais pequeno suficiente para a finalidade, a retenção mais curta suficiente para a necessidade operacional, eliminação documentada.
• Aviso público e sinalização. Aviso visível e em linguagem clara sobre o que o sistema faz, porquê e como questionar ou reclamar.
• Revisão humana. Nenhuma decisão automatizada com efeito significativo é tomada sem um passo de revisão humana registado.
• Auditabilidade. Registos de acesso, histórico de configuração e registos de revisão são guardados e disponibilizados ao órgão de supervisão competente.
• Salvaguardas de contratação. Transparência, não-discriminação, explicabilidade, saída e portabilidade e proteção contra o aprisionamento por fornecedor são escritas nos contratos de contratação (consistentes com o trabalho da OCDE sobre IA na contratação pública).
• Envolvimento comunitário. Um percurso definido de reclamação e informação antes, durante e depois da implementação.

Lógica de piloto

Operamos numa implementação em cinco fases:

1. Descoberta e salvaguardas. Resultado-alvo, grupos-alvo, casos de uso permitidos, AIPD, aviso e configuração de contratação.
2. Piloto. Um ou dois corredores ou sítios; medição de linha de base; comunicação comunitária.
3. Avaliação. Revisão de KPIs, revisão de viés e falsos alarmes, custo-benefício, ajuste de governação.
4. Escala. Extensão a mais sítios ou parceiros, interoperabilidade, suporte e modelo operacional.
5. Institucionalização. Padrões, relatórios de transparência, ciclos de auditoria, atualizações de conteúdo na página pública de aviso.

Saltar diretamente da descoberta para a escala é o modo de falha que a revisão da OCDE sobre projetos de IA governamental descreve em detalhe; nós não o fazemos.

Como medimos os resultados

Os KPIs defensáveis são operacionais e conscientes dos direitos:

• Desempenho operacional. Tempo médio para verificar um incidente reportado; tempo médio de processamento em pontos de entrada controlados e portagens; custo por evento processado comparado com a linha de base manual documentada; taxa de falsos positivos em eventos sinalizados; uptime em nós de borda; cobertura das zonas acordadas.
• Resultados de segurança. Variação dos incidentes reportados, ferimentos ou eventos de acesso não autorizado em corredores e sítios equipados, face a uma linha de base publicada.
• Pontos de prova de governação. Parcela das implementações com AIPD concluída, aviso público, retenção documentada, revisão humana registada e passos de envolvimento comunitário registados; número de pedidos de acesso e reclamações tratadas, e tempo de resolução.
• Revisão independente. Frequência e resultado de auditorias independentes.

A evidência mais ampla a nível africano sobre resultados como redução da criminalidade através de tais sistemas não está especificada no registo público em que confiamos; medimos por isso aquilo que conseguimos defender, e desenhamos pilotos de modo que qualquer afirmação mais ampla possa ser construída ao longo do tempo sobre os dados próprios da cidade — ou retirada se o piloto não a sustentar.