O Supremo Tribunal Federal (STF) concordou com a primeira tentativa de uso de comandos ocultos em uma petição que direciona sistemas de inteligência artificial (IA) da Corte para produzir uma decisão favorável a uma das partes. Diante do episódio, o relator do processo, ministro Cristiano Zanin, determinou que o fato seja comunicado à Ordem dos Advogados do Brasil (OAB), para análise de eventual infração ético-disciplinar, e ao Ministério Público Federal (MPF), para apuração de eventual prática de crime. O ministro também aplicou multa de dois mínimos por violação do dever de lealdade processual.

As medidas foram elaboradas no voto do ministro no Recurso Extraordinário com Agravo (ARE) 1608713 , analisadas pela Primeira Turma do STF em sessão virtual iniciada nesta sexta-feira (25).

Tentativa de não interferir na decisão

O gabinete do ministro Cristiano Zanin foi comunicado da tentativa de burla processual em 3 de setembro pelo Núcleo de Inteligência Artificial da Secretaria-Geral de Tecnologia da Informação (SGTI) do STF. Segundo a área técnica, foram inseridas na petição instruções ocultas, em letras brancas e de tamanho limitado, com argumentos e comandos destinados a induzir ferramentas de IA a conhecer e dar provimento ao recurso. Algumas palavras também foram fragmentadas de forma incomum para dificultar a identificação dos comandos.

A tentativa foi identificada pela Maria Shield, uma das funcionalidades da plataforma Maria, sistema de inteligência artificial desenvolvido pelo STF para apoiar, internamente, o trabalho de servidores na análise processual e na produção de documentos. A ferramenta atua na identificação de padrões e conteúdos maliciosos inseridos em peças processuais, como comandos ocultos destinados a interferir no funcionamento de sistemas de IA.

Ao ser informado sobre o caso, o ministro esclareceu que seu gabinete não utiliza inteligência artificial para analisar processos ou decisões fundamentais. A tentativa, portanto, não teve qualquer efeito sobre a análise do recurso, que já havia sido rejeitada por Zanin em 19 de agosto.

Comandos ocultos

O procedimento denominado “injeção imediata” consiste na inserção de instruções em conteúdos que serão processados ??por sistemas de inteligência artificial, com o objetivo de alterar ou direcionar suas respostas. No caso identificado pelo Supremo, os comandos buscavam orientar de forma oculta eventual ferramenta de IA utilizada na análise do processo para a adoção de determinada linha de fundamentação e para um resultado favorável à recorrente.

A parte apresentou recurso (agravo regimental) contra a decisão do relator e, no voto apresentado à Primeira Turma, o ministro manteve os seus fundamentos jurídicos para negar o pedido, explicitou a situação apresentada nos autos, bem como as disposições tomadas. Zanin afirmou que esse tipo de conduta o dever de lealdade das partes previstas no artigo 77 do Código de Processo Civil (CPC) e, com base nesse dispositivo, aplicou multa de duas cláusulas mínimas.

Sobre o processo

O recurso foi apresentado por um servidor público que teve sua nomeação anulada para o cargo de oficial do Ministério Público de Minas Gerais. A polêmica envolve a aplicação das regras de reserva de vagas para pessoas negras no concurso público, bem como dos critérios adotados.

Zanin havia negado o recurso por entender, entre outros pontos, que as questões constitucionais apresentadas não foram fornecidas previamente provas pelo tribunal de origem e que a revisão da demanda decisãoia o reexame de fatos, provas e regras do edital, disposições que não são admitidas nessa fase processual pelas instruções do STF.

Leia a íntegra do relatório e do voto do relator .

(Cezar Camilo/AD)

Link: https://noticias.stf.jus.br/postsnoticias/stf-identifica-uso-de-comandos-ocultos-para-influenciar-ia-em-processo-e-comunica-oab-e-mpf/