Na semana passada, um homem foi preso no interior do Espírito Santo, um dia antes de executar um plano para matar o próprio filho de 8 anos. O que levou a polícia até ele não foi a denúncia de um vizinho nem uma escuta judicial. Foi a OpenAI, dona do ChatGPT, que identificou as conversas, acionou o Federal Bureau of Investigation (FBI), e o material chegou à polícia brasileira via Ministério da Justiça.
Deixo o horror do crime de lado porque ele fala por si. O ponto aqui é o mecanismo por trás da prisão e a pergunta incômoda que ele suscita. Uma empresa de tecnologia examinou conteúdo privado de um usuário, classificou aquilo como risco concreto à vida de terceiros e decidiu comunicar uma autoridade.
No caso, uma criança foi salva. Exatamente por isso a discussão é difícil: o mesmo mecanismo que protege também assusta, diante do volume enorme de conversas que essas ferramentas processam diariamente.
Além do episódio extremo, há uma questão de governança no centro do tema. De um lado, a expectativa de privacidade de quem digita numa ferramenta de IA como se escrevesse num diário. Do outro, o dever de agir diante de um risco real e iminente à vida. Quando esses valores se chocam, é preciso ter definido, 𝐚𝐧𝐭𝐞𝐬, qual prevalece e em que circunstância.
Essa definição é parte de política pública e diretriz interna que se estrutura com antecedência, com critérios claros sobre quando o sigilo cede à prevenção.
Por trás de uma decisão assim existe uma política de uso que determina o que a empresa monitora, um critério técnico para transformar conteúdo em alerta, um fluxo jurídico sobre como e para quem reportar, e articulação entre jurisdições, já que o dado saiu dos Estados Unidos e a prisão ocorreu no Brasil. Nada funciona se cada área atuar isolada. O jurídico precisa definir limites, a engenharia precisa construir o gatilho, e o compliance precisa conectar ambos à realidade legal de mais de um país – tudo integrado.
Para empresas brasileiras é importante observar que ao contratar essas ferramentas, você aceita termos de uso que definem o que é monitorado, sob qual lei e o que será feito com o que for encontrado. 𝐀 𝐦𝐚𝐢𝐨𝐫𝐢𝐚 𝐚𝐬𝐬𝐢𝐧𝐚 𝐬𝐞𝐦 𝐥𝐞𝐫.
O caso do Espírito Santo mostra que essas cláusulas são decisões de governança com consequências reais, capazes tanto de salvar vidas quanto de expor dados sensíveis sem o devido cuidado.
Não tenho uma resposta pronta sobre onde a linha deve ficar, e desconfio de quem afirma ter. Tenho uma convicção: essa linha precisa ser traçada com critério, antes do incidente, por áreas que conversem entre si, e não improvisada depois que o problema já está na mesa.
Por Flavia Presgrave, Sócia de Martorelli Advogados
