Inteligência Artificial na Gestão Pública: Governança de Dados, Viés Algorítmico e Serviço ao Cidadão

Órgãos públicos em todas as esferas federativas brasileiras têm adotado sistemas de inteligência artificial para triagem de atendimento ao cidadão, detecção de fraude em benefícios sociais, priorização de fiscalização e até apoio a decisões judiciais e administrativas de maior complexidade. Esse avanço, em geral, tem sido movido por pressão de eficiência orçamentária e por escassez crônica de pessoal qualificado no setor público, sem que a estrutura de governança de dados e de supervisão algorítmica acompanhe a mesma velocidade de implementação tecnológica observada nos últimos anos.

A Lei 14.129/2021, do governo digital, estabelece princípios gerais de eficiência, transparência e desburocratização, mas não constitui, isoladamente, marco regulatório específico e suficiente para inteligência artificial no setor público brasileiro. O Brasil discute projeto de lei específico sobre inteligência artificial, com dispositivos voltados especificamente a sistemas de alto risco, mas, até sua efetiva vigência e regulamentação complementar, órgãos públicos operam em zona de incerteza normativa que exige autorregulação rigorosa como medida de prudência institucional e de proteção ao próprio interesse público que deveriam servir.

A escassez de servidores públicos com formação técnica em ciência de dados e em auditoria de sistemas algorítmicos agrava esse déficit de governança, já que a contratação de fornecedores privados especializados, sem contrapartida de transferência efetiva de conhecimento técnico ao quadro público, cria dependência estrutural que dificulta a própria capacidade do órgão de auditar e questionar tecnicamente o sistema que adquiriu e passou a utilizar em decisões relevantes.

Sistemas de inteligência artificial treinados com dados históricos tendem a reproduzir, e em alguns casos amplificar, padrões discriminatórios já presentes nesses dados de treinamento. Sistemas de triagem de benefícios sociais treinados com histórico de concessões que refletem desigualdade racial ou regional preexistente na sociedade podem perpetuar essa mesma desigualdade sob aparência de neutralidade tecnológica, dificultando ainda mais a identificação e a correção do problema, já que decisões algorítmicas são frequentemente percebidas pelo público e por gestores como objetivas por definição, o que reduz o escrutínio crítico que naturalmente seria aplicado a uma decisão humana equivalente.

Populações de regiões remotas, incluindo comunidades ribeirinhas e indígenas na Amazônia, enfrentam risco adicional relevante quando sistemas de inteligência artificial são treinados exclusivamente com dados de contextos urbanos e não capturam adequadamente a realidade socioeconômica, cultural e territorial dessas populações, resultando em classificações de risco ou de elegibilidade a benefícios que não refletem de forma adequada e justa sua situação real de vulnerabilidade ou de necessidade.

A ausência de representatividade dessas populações tanto nas bases de dados de treinamento quanto nas equipes técnicas responsáveis pelo desenvolvimento e pela validação desses sistemas é fator estrutural que perpetua o problema, já que perspectivas e conhecimento contextual sobre a realidade dessas comunidades raramente são incorporados ao processo de desenho técnico do sistema, mesmo quando esse sistema será aplicado diretamente a essas populações em decisões que afetam acesso a direitos fundamentais.

O tratamento de dados pessoais por sistemas de inteligência artificial no setor público está integralmente sujeito à Lei Geral de Proteção de Dados Pessoais, com atenção especial a dados sensíveis — informação de saúde, origem racial ou étnica, situação socioeconômica vulnerável — frequentemente processados por esses sistemas de triagem e de decisão automatizada. A exigência de elaboração de relatório de impacto à proteção de dados para tratamentos de alto risco, expressamente prevista na lei, deveria ser prática padrão obrigatória antes da implementação de qualquer sistema de inteligência artificial com potencial de afetar direitos de cidadãos, mas sua aplicação ainda é irregular e inconsistente entre órgãos públicos brasileiros de diferentes esferas e portes.

A ausência de encarregado de proteção de dados capacitado tecnicamente para avaliar sistemas de inteligência artificial, e não apenas processos administrativos tradicionais de tratamento de dados, é lacuna recorrente que compromete a efetividade da supervisão exigida pela lei em muitos órgãos, especialmente municipais e estaduais de menor porte orçamentário e menor capacidade técnica instalada para lidar com a complexidade específica desses sistemas.

A LGPD também estabelece direito do titular à revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, dispositivo de aplicação ainda incipiente no setor público brasileiro, já que muitos órgãos não disponibilizam canal claro e efetivo para que o cidadão solicite essa revisão nem mantêm processo interno estruturado para atender a essa solicitação em prazo razoável.

Governança responsável de inteligência artificial no setor público exige auditoria algorítmica periódica e independente, capaz de avaliar não apenas a acurácia técnica agregada do sistema, mas seu impacto diferencial sobre diferentes grupos populacionais, identificando padrões de discriminação indireta que passariam despercebidos em avaliação puramente técnica de performance geral do modelo, medida por métricas agregadas que podem mascarar desempenho significativamente pior para subgrupos populacionais específicos.

Sistemas usados em decisões que afetam diretamente direitos individuais devem, ainda, garantir explicabilidade suficiente para que o cidadão afetado por uma decisão algorítmica possa compreender e efetivamente contestar seus fundamentos, princípio já presente na LGPD quanto a decisões automatizadas e alinhado a boas práticas internacionais de governança de inteligência artificial no setor público adotadas por outras jurisdições avançadas nessa agenda regulatória.

A explicabilidade técnica de determinados modelos de aprendizado de máquina mais complexos, como redes neurais profundas, apresenta desafio real e ainda não plenamente resolvido pela literatura técnica, o que reforça a recomendação de que órgãos públicos priorizem, para decisões de alto impacto sobre direitos individuais, modelos algorítmicos de menor complexidade e maior interpretabilidade, mesmo que isso implique alguma perda marginal de acurácia preditiva em comparação a modelos mais sofisticados e menos transparentes.

A implementação de sistemas de inteligência artificial em processos decisórios públicos relevantes deveria, como boa prática de governança democrática, ser precedida de consulta pública e de processo participativo que envolva representantes da sociedade civil, especialmente de grupos potencialmente mais afetados pelo sistema em questão, prática ainda excepcional na experiência brasileira mas cada vez mais recomendada por organismos internacionais que tratam de governança de inteligência artificial no setor público.

A transparência ativa sobre a existência, o funcionamento geral e os critérios de decisão de sistemas de inteligência artificial utilizados pelo poder público é condição de legitimidade democrática que antecede logicamente qualquer ganho de eficiência administrativa que a tecnologia possa oferecer, já que decisões públicas relevantes tomadas por processo opaco, ainda que tecnicamente eficiente, comprometem princípio fundamental de accountability que sustenta a própria legitimidade da administração pública em um estado democrático de direito.

Recomenda-se que órgãos públicos que adotam inteligência artificial em processos decisórios relevantes constituam comitê de governança algorítmica com competência técnica multidisciplinar e representação da sociedade civil, realizem relatório de impacto à proteção de dados obrigatório antes da implementação de qualquer novo sistema, e submetam os sistemas já em operação a auditoria de viés independente em ciclo mínimo anual. A transparência ativa sobre quais processos administrativos utilizam inteligência artificial, e com que critérios de decisão, é condição de legitimidade democrática que antecede qualquer ganho de eficiência que a tecnologia possa efetivamente oferecer à gestão pública.