01/06/2026
TCESP alerta para riscos do uso de Inteligência Artificial sem revisão em processos
Notícia postada em 01/06/2026
O Tribunal de Contas do Estado de São Paulo (TCESP) publicou o Comunicado GP nº 23/2026 alertando representantes, denunciantes, advogados e órgãos jurisdicionados sobre os riscos do uso de ferramentas de Inteligência Artificial (IA) sem a devida revisão humana na elaboração de petições, representações e demais documentos encaminhados à Corte.
Segundo o Tribunal, tem aumentado o número de manifestações processuais elaboradas com auxílio de sistemas de IA que apresentam erros factuais, inconsistências argumentativas e informações sem respaldo jurídico adequado. A preocupação é especialmente relevante em processos que envolvem pedidos de medidas cautelares, nos quais a qualidade e a precisão das informações são essenciais para a tomada de decisão.
De acordo com o comunicado, um dos problemas mais recorrentes é a ocorrência das chamadas “alucinações” da inteligência artificial, fenômeno em que a ferramenta produz conteúdos aparentemente coerentes, mas que contêm informações incorretas, distorcidas ou completamente inventadas, incluindo referências a dispositivos legais inexistentes e jurisprudências fictícias.
O TCESP ressalta que tais falhas comprometem a clareza, a objetividade e a confiabilidade das manifestações processuais, podendo prejudicar a análise dos processos e impactar a celeridade processual.
A Corte informou que, com fundamento na aplicação analógica de seu Regimento Interno, o relator poderá determinar a correção das peças protocoladas quando forem identificadas inconsistências relevantes. Em situações mais graves, envolvendo violação à boa-fé processual, como a utilização de informações manifestamente falsas ou citações inexistentes, poderão ser adotadas medidas como o indeferimento da petição, o desentranhamento do documento dos autos ou até mesmo o bloqueio imediato da peça processual.
Além disso, os responsáveis poderão ser submetidos às sanções previstas na Lei Complementar Estadual nº 709/93 e a outras medidas administrativas cabíveis.
O Tribunal recomenda que todos os subscritores realizem criteriosa revisão humana dos documentos produzidos com auxílio de IA antes de sua protocolização. Como medida de transparência e rastreabilidade, a Corte também sugere que seja informado expressamente na própria peça o uso de ferramentas de inteligência artificial na sua elaboração, prática já adotada internamente pelo próprio Tribunal.
Por fim, o TCESP reafirmou seu compromisso com a segurança jurídica e destacou que disponibiliza, desde o início de 2025, o guia “Uso Responsável de Ferramentas de IA Generativa”, destinado a orientar servidores, jurisdicionados e profissionais que utilizam essas tecnologias no desenvolvimento de atividades relacionadas ao controle externo e à administração pública.
A iniciativa reforça uma tendência observada em diversos órgãos públicos e tribunais brasileiros: o reconhecimento do potencial da inteligência artificial como ferramenta de apoio, sem afastar a responsabilidade humana pela verificação da veracidade, da precisão e da adequação jurídica das informações apresentadas.