Foto: MPC-SP
Em meio à popularização das ferramentas de inteligência artificial generativa, um alerta chamou atenção durante uma sessão de julgamento em São Paulo. A procuradora-geral do Ministério Público de Contas de São Paulo (MPC-SP), Letícia Formoso, apontou falhas graves em um processo que, segundo ela, indicavam possível uso inadequado da tecnologia.
Durante análise do caso pelo colegiado, a procuradora identificou inconsistências que classificou como “alucinação jurídica por IA” — termo usado para descrever erros gerados por sistemas automatizados sem a devida revisão humana.
Nos autos, foram encontradas referências legais e jurisprudenciais incorretas, além de relatorias divergentes e até menções a dispositivos legais inexistentes. Diante das falhas, a procuradora fez um alerta público sobre o tema.
“É provável que tenha havido uso de ferramenta de inteligência artificial generativa sem o controle humano suficiente e necessário”, afirmou.
O julgamento tratava de uma representação envolvendo edital para contratação de solução integrada de software de gestão pública. A manifestação apresentada por uma das partes continha os erros técnicos que motivaram o posicionamento.
Segundo Letícia Formoso, o uso inadequado dessas tecnologias “tem potencial de induzir o tribunal a erro” e pode configurar violação de deveres fundamentais do processo, como veracidade, boa-fé e lealdade processual, exigidos de todos os envolvidos na ação.
Apesar das críticas, a procuradora reconheceu a relevância da tecnologia no ambiente institucional.
“A inteligência artificial generativa é importante e necessária para a eficiência, mas necessita do olhar cuidadoso e do uso consciente”, ressaltou durante a sessão.
VÍDEO
