Na semana passada, um homem foi preso no interior do Esp\u00edrito Santo, um dia antes de executar um plano para matar o pr\u00f3prio filho de 8 anos. O que levou a pol\u00edcia at\u00e9 ele n\u00e3o foi a den\u00fancia de um vizinho nem uma escuta judicial. Foi a OpenAI, dona do ChatGPT, que identificou as conversas, acionou o Federal Bureau of Investigation (FBI), e o material chegou \u00e0 pol\u00edcia brasileira via Minist\u00e9rio da Justi\u00e7a.<\/p>\n\n\n\n
Deixo o horror do crime de lado porque ele fala por si. O ponto aqui \u00e9 o mecanismo por tr\u00e1s da pris\u00e3o e a pergunta inc\u00f4moda que ele suscita. Uma empresa de tecnologia examinou conte\u00fado privado de um usu\u00e1rio, classificou aquilo como risco concreto \u00e0 vida de terceiros e decidiu comunicar uma autoridade.<\/p>\n\n\n\n
No caso, uma crian\u00e7a foi salva. Exatamente por isso a discuss\u00e3o \u00e9 dif\u00edcil: o mesmo mecanismo que protege tamb\u00e9m assusta, diante do volume enorme de conversas que essas ferramentas processam diariamente.<\/p>\n\n\n\n
Al\u00e9m do epis\u00f3dio extremo, h\u00e1 uma quest\u00e3o de governan\u00e7a no centro do tema. De um lado, a expectativa de privacidade de quem digita numa ferramenta de IA como se escrevesse num di\u00e1rio. Do outro, o dever de agir diante de um risco real e iminente \u00e0 vida. Quando esses valores se chocam, \u00e9 preciso ter definido, \ud835\udc1a\ud835\udc27\ud835\udc2d\ud835\udc1e\ud835\udc2c, qual prevalece e em que circunst\u00e2ncia.<\/p>\n\n\n\n
Essa defini\u00e7\u00e3o \u00e9 parte de pol\u00edtica p\u00fablica e diretriz interna que se estrutura com anteced\u00eancia, com crit\u00e9rios claros sobre quando o sigilo cede \u00e0 preven\u00e7\u00e3o.<\/p>\n\n\n\n
Por tr\u00e1s de uma decis\u00e3o assim existe uma pol\u00edtica de uso que determina o que a empresa monitora, um crit\u00e9rio t\u00e9cnico para transformar conte\u00fado em alerta, um fluxo jur\u00eddico sobre como e para quem reportar, e articula\u00e7\u00e3o entre jurisdi\u00e7\u00f5es, j\u00e1 que o dado saiu dos Estados Unidos e a pris\u00e3o ocorreu no Brasil. Nada funciona se cada \u00e1rea atuar isolada. O jur\u00eddico precisa definir limites, a engenharia precisa construir o gatilho, e o compliance precisa conectar ambos \u00e0 realidade legal de mais de um pa\u00eds – tudo integrado.<\/p>\n\n\n\n
Para empresas brasileiras \u00e9 importante observar que ao contratar essas ferramentas, voc\u00ea aceita termos de uso que definem o que \u00e9 monitorado, sob qual lei e o que ser\u00e1 feito com o que for encontrado. \ud835\udc00 \ud835\udc26\ud835\udc1a\ud835\udc22\ud835\udc28\ud835\udc2b\ud835\udc22\ud835\udc1a \ud835\udc1a\ud835\udc2c\ud835\udc2c\ud835\udc22\ud835\udc27\ud835\udc1a \ud835\udc2c\ud835\udc1e\ud835\udc26 \ud835\udc25\ud835\udc1e\ud835\udc2b.<\/p>\n\n\n\n
O caso do Esp\u00edrito Santo mostra que essas cl\u00e1usulas s\u00e3o decis\u00f5es de governan\u00e7a com consequ\u00eancias reais, capazes tanto de salvar vidas quanto de expor dados sens\u00edveis sem o devido cuidado.<\/p>\n\n\n\n
N\u00e3o tenho uma resposta pronta sobre onde a linha deve ficar, e desconfio de quem afirma ter. Tenho uma convic\u00e7\u00e3o: essa linha precisa ser tra\u00e7ada com crit\u00e9rio, antes do incidente, por \u00e1reas que conversem entre si, e n\u00e3o improvisada depois que o problema j\u00e1 est\u00e1 na mesa.<\/p>\n\n\n\n
Por Flavia Presgrave, S\u00f3cia de Martorelli Advogados<\/p>\n","protected":false},"excerpt":{"rendered":"
Na semana passada, um homem foi preso no interior do Esp\u00edrito Santo, um dia antes de executar um plano para matar o pr\u00f3prio filho de 8 anos. O que levou a pol\u00edcia at\u00e9 ele n\u00e3o foi a den\u00fancia de um vizinho nem uma escuta judicial. Foi a OpenAI, dona do ChatGPT, que identificou as conversas, […]<\/p>\n","protected":false},"author":5,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[29],"tags":[],"ppma_author":[33],"class_list":["post-2021","post","type-post","status-publish","format-standard","hentry","category-institucional"],"yoast_head":"\n