Os departamentos governamentais em toda a África do Sul dependem cada vez mais de ferramentas digitais para avaliar programas públicos e monitorar o desempenho. Isto faz parte de reformas mais amplas do setor público. Os seus objectivos são melhorar a responsabilização, responder à pressão da auditoria e gerir programas de grande escala com pessoal e orçamentos limitados.
Aqui está um exemplo. Os departamentos nacionais que monitorizam a distribuição de habitação, as subvenções sociais ou a implementação de infraestruturas baseiam-se em sistemas de desempenho digitais em vez de relatórios periódicos em papel. Painéis – uma forma de mostrar dados visuais em um só lugar – fornecem atualizações quase em tempo real sobre a prestação de serviços.
Outra é a utilização de plataformas que coletam dados móveis. Isso permite que funcionários da linha de frente e prestadores de serviços carreguem informações diretamente do campo.
Ambos os exemplos prestam-se à utilização de inteligência artificial (IA) para processar grandes conjuntos de dados e gerar insights que anteriormente levariam meses a analisar.
Essa mudança é muitas vezes retratado como um passo em frente em termos de responsabilização e eficiência no sector público.
Sou um estudioso de políticas públicas com especial interesse em monitoramento e avaliação de programas governamentais. Meu recente pesquisar mostra uma tendência preocupante: a viragem para a tecnologia está a desenrolar-se muito mais rapidamente do que os quadros éticos e de governação destinados a regulá-la.
Nos casos que examinei, as ferramentas digitais já estavam incorporadas nos processos rotineiros de monitorização e avaliação. Mas não havia padrões claros que orientassem seu uso.
Isto apresenta riscos em torno da vigilância, exclusão, uso indevido de dados e mau julgamento profissional. Esses riscos não são abstratos. Eles moldam a forma como os cidadãos vivenciam o Estado, como os seus dados são tratados e quais as vozes que, em última análise, contam nas decisões políticas.
Quando a tecnologia ultrapassa a política
A avaliação do sector público envolve a avaliação de programas e políticas governamentais. Ele determina se:
-
os recursos públicos são usados de forma eficaz
-
programas alcançam os resultados pretendidos
-
os cidadãos podem responsabilizar o Estado pelo desempenho.
Tradicionalmente, estas avaliações dependiam do envolvimento presencial entre comunidades, avaliadores, governo e outros. Incluíram métodos qualitativos que permitiram nuances, explicações e construção de confiança.
As ferramentas digitais mudaram isso.
Na minha pesquisa, entrevistei avaliadores de governos, ONGs, universidades, associações profissionais e consultorias privadas. Encontrei uma preocupação consistente em todos os níveis. Os sistemas digitais são frequentemente introduzidos sem orientação ética adaptada à prática de avaliação.
A orientação ética forneceria regras claras e práticas sobre como as ferramentas digitais são utilizadas nas avaliações. Por exemplo, ao usar painéis ou análises automatizadas de dados, a orientação deve exigir que os avaliadores expliquem como os dados são gerados, quem tem acesso a eles e como as descobertas podem afetar as comunidades que estão sendo avaliadas. Deve também impedir a utilização de sistemas digitais para monitorizar indivíduos sem consentimento ou para classificar programas de forma a ignorar o contexto.
África do Sul Lei de Proteção de Informações Pessoais fornece um quadro jurídico geral para a protecção de dados. Mas não aborda os dilemas éticos específicos que surgem quando a avaliação se torna automatizada, baseada na nuvem e mediada por algoritmos.
O resultado é que os avaliadores muitas vezes ficam navegando em terreno ético complexo sem padrões claros. Isto força as instituições a confiar em precedentes, hábitos informais, práticas passadas e incumprimentos de software.
Vigilância excessiva e uso indevido de dados
As plataformas digitais permitem recolher grandes volumes de dados. Depois que os dados são carregados em sistemas baseados em nuvem ou plataformas de terceiros, o controle sobre seu armazenamento, reutilização e compartilhamento muda frequentemente dos avaliadores para outros.
Vários avaliadores descreveram situações em que os dados recolhidos em nome dos departamentos governamentais foram posteriormente reutilizados pelos departamentos ou outras agências estatais. Isto foi feito sem o conhecimento explícito dos participantes. Os processos de consentimento em ambientes digitais são muitas vezes reduzidos a um único clique.
Exemplos de outros usos incluem outras formas de análise, relatórios ou monitoramento institucional.
Um dos riscos éticos decorrentes da pesquisa foi o uso desses dados para vigilância. Trata-se da utilização de dados para monitorizar indivíduos, comunidades ou trabalhadores da linha da frente.
Exclusão digital e vozes invisíveis
As ferramentas de avaliação digital são frequentemente apresentadas como algo que amplia o alcance e a participação. Mas, na prática, podem excluir grupos já marginalizados. As comunidades com acesso limitado à Internet, baixa literacia digital, barreiras linguísticas ou infraestruturas não fiáveis têm menos probabilidades de participar plenamente nas avaliações digitais.
As ferramentas automatizadas têm limitações. Por exemplo, podem ter dificuldades em processar dados multilingues, sotaques locais ou formas de expressão culturalmente específicas. Isso leva a representações parciais ou distorcidas da experiência vivida. Os avaliadores do meu estudo viram isso acontecendo na prática.
Esta exclusão tem consequências graves, especialmente num país com desigualdades como a África do Sul. Avaliações que dependem fortemente de ferramentas digitais podem encontrar populações urbanas e conectadas e tornar as comunidades rurais ou informais estatisticamente invisíveis.
Esta não é apenas uma limitação técnica. Ela determina quais necessidades são reconhecidas e quais experiências informam as decisões políticas. Se os dados de avaliação sub-representarem os mais vulneráveis, os programas públicos poderão parecer mais eficazes do que são. Isto mascara falhas estruturais em vez de as resolver.
No meu estudo, algumas avaliações relataram tendências positivas de desempenho, apesar dos avaliadores terem notado lacunas na recolha de dados.
Algoritmos não são neutros
Os avaliadores também levantaram preocupações sobre a crescente autoridade concedida aos resultados algorítmicos. Painéis, relatórios automatizados e análises baseadas em IA são frequentemente tratados como a imagem real. Isto acontece mesmo quando entram em conflito com o conhecimento baseado no campo ou com a compreensão contextual.
Por exemplo, os painéis podem mostrar uma meta no caminho certo. Mas, no exemplo de uma visita ao local, os avaliadores podem encontrar falhas ou insatisfação.
Vários participantes relataram pressão de financiadores ou instituições para confiar na análise dos números.
No entanto, os algoritmos refletem os pressupostos, os conjuntos de dados e as prioridades incorporadas na sua conceção. Quando aplicados de forma acrítica, podem reproduzir preconceitos, simplificar excessivamente a dinâmica social e desconsiderar a percepção qualitativa.
Se os sistemas digitais ditarem a forma como os dados devem ser recolhidos, analisados e comunicados, os avaliadores correm o risco de se tornarem técnicos e não profissionais independentes que exercem julgamento.
Por que África precisa de uma ética sensível ao contexto
Em toda a África, as estratégias e políticas nacionais sobre tecnologias digitais baseiam-se muitas vezes em grande parte nos quadros internacionais. Estes são desenvolvidos em contextos muito diferentes. Princípios globais sobre Ética da IA e governança de dados fornecer pontos de referência úteis. Mas não abordam adequadamente as realidades da desigualdade, da desconfiança histórica e do acesso digital desigual em grande parte do sector público de África.
A minha investigação defende que a governação ética para a avaliação digital deve ser sensível ao contexto. Os padrões devem abordar:
Os quadros éticos devem ser incorporados na fase de concepção dos sistemas digitais.
