Mas o que ainda precisamos saber para entender onde estão os limites?
Em maio deste ano, a 3ª Vara do Trabalho de Parauapebas identificou, dentro de uma petição, um comando oculto em texto, com fonte branca sobre fundo branco, invisível para o olho humano e legível para as Inteligências Artificiais, desde então, venho lendo e refletindo sobre isso.
A instrução não tentava convencer o juiz e sim mandava que a IA da parte adversa contestasse de forma superficial e não impugnasse os documentos. Essa prática é chamada de prompt injection.
Muita gente tem falado sobre isso no último mês. É inevitável. Não é um assunto que pode ser colocado de lado.
Como o uso de ferramentas de IA faz parte do dia a dia da maioria das pessoas, e aqui falando especialmente da advocacia, quando me deparo com casos como esse, me coloco a pensar em como essas tentativas de manipulação de resultados podem impactar as negociações contratuais.
Se um comando oculto pode sabotar a análise de uma petição, nada impede que ele apareça numa minuta de contrato, em um termo de confissão de dívida ou em qualquer documento submetido à revisão automatizada.
É preocupante e exige uma revisão voltada à integridade documental e boa-fé como pilares que garantem a transparência da prática jurídica.
Mas confesso que me incomoda um pouco a narrativa de novidade que damos para esse tipo de prática. Digo isso porque a fonte branca sobre fundo branco, medidas as proporções, é a letra miúda do século XXI.
A letra miúda sempre nos enganou ao sugerir que o vício está no tamanho da fonte. Nunca esteve. A cláusula está lá, foi informada, mas foi depositada num ponto do documento calculado para passar despercebido.
Se pararmos para pensar, em certa medida, o prompt injection se vale do mesmo intervalo entre o que está formalmente no papel e o que é efetivamente percebido. Com uma diferença: a letra miúda aposta na falta de atenção de quem lê enquanto o comando oculto dá uma ordem direta a IA da contraparte
A letra miúda esconde, maquia, para reduzir a percepção.
O prompt injection oculta para interferir na leitura automatizada e burlar os olhos humanos e artificiais.
Em ambos os casos, a intenção é mover o jogo da transparência para a manipulação.
E é por isso que, para ser honesta, não acredito que vamos encontrar um caminho ético para a IA só regulando a IA.
A regulação ajuda e muito. Ainda falta norma que trate essas condutas com clareza e coíba com efetividade tais práticas irregulares. Mas nenhuma regra nova terá utilidade se não voltarmos ao essencial e aplicarmos o básico: boa-fé e transparência.
Para mim, a crise que estamos vendo talvez seja menos de falta de letramento ou de norma, e mais de princípios que muita gente deixou de lado bem antes de a IA entrar na prática jurídica.
Por Carolina Lins, sócia de Martorelli Advogados
