Blogs / Bela Megale

Zanin manda apurar primeiro caso de tentativa de fraude com IA no Supremo
Zanin manda apurar primeiro caso de tentativa de fraude com IA no Supremo · Imagem: Source: oglobo.globo.com

Bela Megale

Zanin manda apurar primeiro caso de tentativa de fraude com IA no Supremo
Zanin manda apurar primeiro caso de tentativa de fraude com IA no Supremo · Imagem: Source: oglobo.globo.com

Investigações criminais, bastidores do poder e a vida política de Brasília

Exclusivo para assinantes

0.5x 1x 1.25x 1.5x 2x

00:00

00:00

Ministro Cristiano Zanin no STF — Foto: Rosinei Coutinho/STF

O sistema de segurança cibernética do Supremo Tribunal Federal (STF) identificou a primeira tentativa de fraude processual por meio de prompt injection em um processo da corte. O prompt injection é uma ferramentas de inteligência artificial usada para alterar análises processuais.

O caso envolve um recurso de relatoria do ministro Cristiano Zanin e foi detectado pelo Núcleo de Inteligência Artificial da Secretaria-Geral de Tecnologia e Inovação do STF.

A tentativa consistiu na inserção, em duas páginas da peça processual, de comandos ocultos destinados a sistemas de inteligência artificial. Os trechos foram escritos em letras brancas e em tamanho reduzido, de forma imperceptível na leitura convencional. Havia ainda uma fragmentação incomum das palavras, aparentemente para dificultar a identificação dos comandos. O objetivo era alertar a decisão do ministro.

A fraude não teve efeito prático porque o gabinete de Zanin não utiliza ferramentas de inteligência artificial para análise ou fundamentação de processos.

O caso está no agravo apresentado por uma servidora pública negra contra decisão que determinou sua exoneração do cargo de oficial do Ministério Público de Minas Gerais. A defesa sustenta que a candidata que a substituiu, branca, teria se beneficiado de manobras processuais para burlar o sistema de cotas raciais.

Em 19 de agosto, Zanin negou o recurso com base na jurisprudência do STF que impede o reexame de fatos e provas em recurso extraordinário. Ao encaminhar o caso para julgamento da Primeira Turma, o ministro classificou a inserção dos comandos como uma tentativa de “direcionar, de forma oculta, os sistemas de inteligência artificial do STF para a obtenção de decisão judicial favorável”.

Para Zanin, a prática viola o dever de lealdade processual previsto no Código de Processo Civil. O ministro aplicou multa equivalente a dois salários mínimos e determinou o envio do caso à OAB, para apuração de eventual infração ético-disciplinar do advogado, e ao Ministério Público Federal, para verificar possível prática de crime.

O caso será analisado pela Primeira Turma do STF em plenário virtual, a partir desta sexta-feira (25).

Mais recente Próxima Defesa de Vorcaro traça nova estratégia para tentar anular investigações contra ex-banqueiro

- Cristiano Zanin

- STF