Advogadas levam multa de R$ 84 mil por tentarem enganar IA de tribunal

Prompt injection explora vulnerabilidades de IAs generativas baseadas em LLMs (Imagem: Igor Shimabukuro/Tecnoblog) Resumo Advogada foi multada em R$ 84 mil por tentar manipular ferramenta de IA usada pela Justiça do Trabalho. A tentativa de manipulação foi detectada pelo sistema Galileu, que identificou um comando oculto em uma petição inicial. O juiz classificou a conduta como “ato atentatório à dignidade da Justiça” e determinou o envio de ofícios à OAB e ao Ministério Público. Duas advogadas do Pará foram multadas em R$ 84 mil após supostamente tentarem manipular uma ferramenta de IA usada pela Justiça do Trabalho. O caso ocorreu em uma ação trabalhista analisada pela 4ª Vara do Trabalho de Parauapebas. A manobra consistia em esconder uma ordem dentro da petição inicial. O texto foi escrito em fonte branca sobre fundo branco, ficando invisível a olho humano, mas ainda presente no arquivo. A frase era direcionada à IA do tribunal e pedia que a petição fosse contestada. A própria IA, chamada Galileu, identificou a tentativa e relatou o fato, segundo o TRT-4. O juiz, então, classificou a conduta como “ato atentatório à dignidade da Justiça”, mas reconheceu que o trabalhador não pode ser culpado pela manipulação, já que a petição é de responsabilidade do advogado. Dessa forma, ele condenou que o escritório pagasse verbas rescisórias, horas extras e adicional de periculosidade. A decisão também determinou o envio de ofícios à OAB e ao Ministério Público, para apuração de possíveis infrações éticas e criminais. Cabe recurso e as advogadas já disseram que vão recorrer. Texto pretendia enganar o Galileu O alvo da tentativa de manipulação era o Galileu, sistema de inteligência artificial usado para auxiliar na análise de processos. A ferramenta lê documentos, extrai informações e apoia a elaboração de resumos e minutas. A estratégia tentava explorar essa etapa automatizada, buscando o processamento pela IA mesmo sem aparecer visualmente para uma pessoa que abrisse a petiç...

Fonte: Tecnoblog
Leia mais: https://tecnoblog.net/noticias/advogadas-levam-multa-de-r-84-mil-por-tentarem-enganar-ia-de-tribunal/