Ozan Ahmet ÇetinOs algoritmos há muito tempo que participam na governação. Determinam quais anúncios de emprego chegam a quais cidadãos, quais declarações fiscais são sinalizadas para auditoria, quais casos de assistência social são priorizados e até mesmo como as rotas de patrulha policial são programadas.
Muito disto ocorreu discretamente, sob a bandeira de “apoio à decisão”, em vez de tomada de decisão aberta.
O que torna os recentes desenvolvimentos na Albânia e no Japão distintos é que os sistemas já não são mais infraestruturas ocultas.
O governo da Albânia encarregou formalmente a sua assistente digital Diella de gerir os processos de aquisição, e o pequeno partido japonês Path to Rebirth declarou que nomeará uma IA como líder.
Nenhum dos casos representa a transferência total de autoridade para as máquinas. Diella continua a ser uma ferramenta de fluxo de trabalho supervisionada, e o partido japonês não tem assentos na legislatura nacional e ainda deve designar um representante humano para os registos oficiais.
Mesmo assim, estas medidas são significativas. Transformam a tomada de decisões algorítmicas de uma função secundária num papel institucional reconhecido publicamente.
Sinalizam que a governação algorítmica, há muito tempo uma realidade silenciosa da vida administrativa, está a tornar-se explícita. Devem ser abordadas como questões de desenho institucional, legitimidade e responsabilidade.
A governação algorítmica, em sentido amplo, não é nova. Durante décadas, governos e empresas têm usado fórmulas de pontuação, modelos de risco e árvores de decisão para orientar resultados.
O que é distinto hoje é a discussão sobre sistemas de IA que aprendem com dados, se adaptam ao longo do tempo e operam em escala.
Estes sistemas fazem mais do que executar regras fixas. Eles geram padrões, classificam alternativas e, às vezes, propõem ações que não foram previstas pelos seus criadores.
Isso os torna poderosos, mas também mais difíceis de examinar.
As recentes nomeações públicas de sistemas de IA na Albânia e no Japão chamam a atenção para esta mudança. Trata-se de governar com sistemas que evoluem, cujo raciocínio deve permanecer inteligível para que a supervisão democrática seja preservada.
Governação algorítmica e o sonho da objetividade
De Leibniz a Condorcet, os pensadores do Iluminismo imaginaram substituir a disputa pelo cálculo.
Leibniz chegou a propor um «cálculo universal» através do qual os adversários poderiam resolver divergências simplesmente declarando calculemus («vamos calcular»).
Jeremy Bentham traduziu essa visão em política utilitarista, argumentando que o objetivo da governação deveria ser a maximização da felicidade coletiva por meio do cálculo racional.
A governação algorítmica contemporânea parece dar vida a esse projeto. Ela promete decisões livres de caprichos e preconceitos.
A governação moderna há muito tempo que luta com a tensão entre ordem e autonomia, entre a promessa de uma administração imparcial e o medo de um controlo sufocante.
A sociologia da burocracia de Max Weber oferece a primeira grande âncora conceitual. Weber descreveu o Estado moderno ideal como governado por regras, em vez de caprichos pessoais, caracterizado por procedimentos formais, registos escritos e supervisão hierárquica.
Os sistemas algorítmicos são uma extensão lógica desse projeto. Eles prometem consistência, removendo a discricionariedade nos níveis mais baixos e impondo uniformidade.
Mas também tornam a «jaula de ferro» de Weber mais apertada. Nesta perspetiva, há uma continuidade histórica considerável em que a governação algorítmica não é uma rutura, mas uma intensificação da racionalização.
Mais tarde, a cibernética, que surgiu na década de 1940, reformulou a governação como um problema de controlo de feedback. A ideia de Norbert Wiener era que os sistemas biológicos, mecânicos ou sociais podiam ser regulados através da deteção do seu estado, comparando-o com um objetivo e aplicando correções.
O «Modelo de Sistema Viável» de Stafford Beer, na década de 1970, aplicou essa lógica a economias inteiras, imaginando o Estado como um processador de informação vivo.
A governação algorítmica operacionaliza essa visão. Os sensores tornam-se fluxos de dados digitais, os controladores tornam-se modelos de aprendizagem automática e as ações corretivas podem ser aplicadas à velocidade da máquina.
No pós-guerra, os governos adotaram a investigação operacional, a programação linear e a análise de decisões para otimizar a logística, as alocações orçamentais e o planeamento social.
Os analistas da Guerra Fria buscavam respostas "ótimas" sob limites rígidos.
Pense nos jogos de guerra de mesa da RAND, que permitiam aos funcionários ensaiar crises, nos esforços soviéticos para administrar a economia com modelos computacionais baseados em feedback e no planeamento britânico do pós-guerra, que usava tabelas de input-output e produtos para definir metas de produção.
Como os métodos eram legíveis, os formuladores de políticas podiam ver como os números geravam as recomendações.
Os sistemas algorítmicos modernos herdam o espírito da otimização, mas substituem equações interpretáveis por redes neurais opacas. Isso cria uma descontinuidade histórica, na qual herdamos a fé na otimização sem a garantia da explicabilidade.
A onda de digitalização das décadas de 1990 e 2000 concentrou-se na eficiência com portais online, arquivamento eletrónico e gestão automatizada de casos. Essas foram, em grande parte, atualizações de serviços, não redefinições de poder.
A governação algorítmica usa essa infraestrutura como substrato, mas passa da manutenção passiva de registos para a orientação ativa.
Os sistemas agora priorizam quais casos os funcionários humanos veem, prevêem quais políticas atingirão as metas de desempenho e, às vezes, aplicam automaticamente penalidades ou decisões de elegibilidade.
O Estado está a passar de um registador para um recomendador e, em algumas áreas, para um interveniente.
Governação por IA
O que é novo neste momento não é a aspiração de racionalizar a governação, mas as propriedades das ferramentas que estão a ser implementadas.
Ao contrário dos sistemas baseados em regras das décadas anteriores, a IA contemporânea opera com base em inferências estatísticas, em vez de lógica explícita. Ela produz resultados não pela aplicação de regras transparentes, mas pelo mapeamento de correlações complexas nos dados.
Isso permite flexibilidade e adaptação, pois os sistemas podem atualizar-se à medida que novos dados chegam.
No entanto, isso também introduz opacidade. Os formuladores de políticas podem ter dificuldade em explicar por que uma determinada recomendação foi feita ou em reconstruir a cadeia de raciocínio por trás de um resultado.
Nesse sentido, a governação algorítmica atual não apenas reforça a gaiola de Weber, mas também corre o risco de substituir as barras visíveis por outras invisíveis.
Outra diferença importante é a escala e a granularidade. Os sistemas administrativos anteriores só podiam generalizar.
Eles aplicaram regras uniformes a amplas classes de casos. Os modelos de aprendizagem automática, por outro lado, permitem a microdiferenciação. As pontuações de risco, as decisões de elegibilidade e os incentivos políticos podem ser ajustados ao nível dos bairros ou dos indivíduos.
Isso gera oportunidades e preocupações. Por um lado, os recursos podem ser direcionados com precisão sem precedentes, reduzindo potencialmente o desperdício e a desigualdade.
Por outro lado, essa governação minuciosa pode fragmentar a própria ideia de público, substituindo o tratamento coletivo pela otimização individualizada e tornando a justificativa política mais difícil: por que o meu caso foi tratado de forma diferente do meu vizinho se nenhum ser humano decidiu isso?
Há também uma mudança temporal. Os sistemas burocráticos e de planeamento clássicos eram periódicos e retrospectivos. Dados dos censos a cada década, orçamentos a cada ano fiscal, revisões de políticas a cada sessão legislativa.
Os sistemas modernos de IA podem funcionar continuamente, ingerir dados em tempo real e ajustar decisões instantaneamente.
Isso introduz a possibilidade de uma governação dinâmica, que seria uma espécie de administração contínua, sempre em ligeiro fluxo.
No entanto, isso complica a supervisão. Quando as decisões são constantemente atualizadas, o que exatamente está a ser avaliado numa auditoria legislativa ou revisão judicial? A versão do modelo do mês passado, da semana passada ou a que está a ser executada esta manhã?
A governação liderada por IA introduz uma nova distribuição de agência. Os sistemas atuais podem gerar opções e propor estratégias imprevistas pelos seus designers.
Isso confunde a linha entre apoio à decisão e tomada de decisão. Também muda o conjunto de habilidades exigidas dos funcionários públicos. Agora, eles devem governar não apenas populações, mas também modelos.
Eles devem aprender quando confiar, quando ignorar e como traduzir valores públicos em parâmetros técnicos.
A questão agora é se o modelo de IA continua a aprender de forma consistente com a intenção democrática.
Estudos de caso iniciais
Os sistemas algorítmicos diferem das tecnologias administrativas anteriores em três aspectos importantes. Eles são adaptáveis, baseiam-se em inferências probabilísticas em vez de regras fixas e operam em uma escala que pode afetar milhões de casos simultaneamente.
Essas propriedades permitem que os governos direcionem recursos com precisão sem precedentes e antecipem problemas antes que eles se agravem.
Eles também ampliam o impacto dos erros, incorporam preconceitos de maneiras que podem ser difíceis de detetar e tornam a supervisão mais complexa.
Em vez de descartar esses desenvolvimentos como manobras publicitárias ou temê-los como precursores do domínio das máquinas, devemos tratar as experiências da Albânia e do Japão como estudos de caso iniciais.
Eles oferecem uma oportunidade para projetar as normas, práticas de auditoria e estruturas jurídicas que regerão a tomada de decisões algorítmicas antes que ela se torne profundamente arraigada.
A Albânia e o Japão, intencionalmente ou não, tornaram visível a governação algorítmica.
A tarefa agora é decidir como mantê-la legítima, contestável e consistente com os princípios democráticos antes que o próximo escritório receba uma placa digital.
