Li, pela notícia do Supremo Tribunal Federal, sobre a participação do ministro Edson Fachin nas Jornadas Internacionais da Associação Henri Capitant, no Rio de Janeiro, em um debate sobre os impactos da inteligência artificial no Direito.

O tema me chamou atenção porque a discussão saiu do campo da curiosidade tecnológica e chegou, de vez, ao centro das relações jurídicas.

Isso acontece porque sistemas automatizados já interferem em escolhas de consumo, concessão de crédito, avaliação de risco, contratação de serviços, circulação de dados e exercício de direitos.

A tecnologia pode facilitar processos e ampliar eficiência, porém passa a gerar preocupação quando opera sem transparência, sem critérios compreensíveis e sem possibilidade concreta de revisão.

Nesse ponto, a ideia de vulnerabilidade algorítmica merece cuidado. O cidadão, o consumidor e até empresas menores podem ficar diante de decisões que produzem efeitos reais, embora sejam tomadas por modelos técnicos pouco acessíveis.

A suposta neutralidade do algoritmo não elimina vieses, inconsistências nem danos.

Por isso, a supervisão humana precisa ser mais do que uma etapa formal. Ela deve existir de modo documentado, efetivo e capaz de corrigir falhas.

Do mesmo modo, a responsabilidade não pode desaparecer atrás da complexidade do sistema utilizado.

A inteligência artificial tem espaço no mercado, nas instituições e no próprio Judiciário.

Entretanto, quanto maior o poder dessas ferramentas sobre a vida social, maior deve ser o compromisso com governança, explicabilidade, proteção de dados e controle jurídico.

Talvez esse seja um dos grandes desafios do Direito daqui para frente. Não barrar a inovação, mas impedir que a eficiência seja usada como justificativa para decisões que ninguém consegue compreender, contestar ou responsabilizar.

Por Dóris Castelo Branco, Sócia de Martorelli Advogados