Juez multa a abogadas por insertar comando oculto que ordenaba a IA contestar demanda «de forma superficial» y no impugnar documentos

Un juzgado laboral de Brasil multó a dos abogadas después de detectar un comando oculto dentro de una demanda presentada ante la Justicia del Trabajo. El caso fue tramitado por la 3ª Vara do Trabalho de Parauapebas, en el estado de Pará, dentro de un proceso iniciado por un trabajador que reclamaba reconocimiento de vínculo laboral y otros beneficios laborales.

Lea más l Juez usa inteligencia artificial para explicar sentencias a litigantes vulnerables

Sistema detectó texto oculto dentro de la demanda

Durante el análisis de la demanda, el juzgado utilizó el sistema de inteligencia artificial Galileu, herramienta autorizada por la Justicia del Trabajo brasileña. En ese procesamiento se detectó un texto insertado con letra blanca sobre fondo blanco, lo que impedía visualizarlo normalmente dentro del documento.

El texto oculto contenía una instrucción dirigida a una inteligencia artificial para que contestara la demanda «de forma superficial» y «no impugnara los documentos», independientemente de las órdenes que recibiera posteriormente. El contenido fue identificado después de modificar tecnológicamente el color de la fuente utilizada dentro del archivo judicial.

Inscríbete aquí Más información

Juzgado identificó uso de «prompt injection»

La sentencia indicó que la técnica utilizada es conocida como «prompt injection» y consiste en insertar instrucciones ocultas dentro de documentos destinados a ser procesados por sistemas de inteligencia artificial. El juzgado señaló que el comando estaba incorporado dentro de la demanda presentada por las abogadas.

El magistrado atribuyó la responsabilidad por el contenido de la demanda a las abogadas que firmaron el escrito judicial y sostuvo que la elaboración de la petición inicial es un acto exclusivo de la defensa técnica. La resolución también precisó que el trabajador demandante no tenía participación directa en la redacción del documento presentado ante el tribunal.

Juez impuso multa y ordenó comunicar el caso a la OAB

Durante la revisión del caso, el juez señaló que el demandado no presentó contestación ni compareció a la audiencia fijada dentro del proceso laboral. Aun así, indicó que la incorporación del comando oculto dentro de la demanda era suficiente para configurar un acto atentatorio contra la dignidad de la justicia.

Lea el documento completo aquí