O direito diante da automação da decisão

Por muito tempo o debate jurídico sobre IA girou em torno de uma pergunta mal formulada: as máquinas podem decidir? Elas já decidem — recomendam, filtram, pontuam, priorizam. O que se automatiza, na prática, não é a decisão isolada, mas a arquitetura que a produz.

E é aí que o direito trava. Nossa tradição de responsabilidade pressupõe um sujeito identificável: alguém que agiu, podia prever e podia evitar. A decisão automatizada distribui esses elementos entre vários atores:

• quem treinou o modelo;
• quem o integrou ao sistema;
• quem o operou no caso concreto;
• quem definiu a regra que o caso aplicava.

A saída não é necessariamente uma lei nova e espetacular. Pode ser uma releitura honesta de categorias antigas — dever de cuidado, risco da atividade, ônus da prova — aplicadas a uma cadeia em que a capacidade de evitar o dano está fragmentada, mas não desaparecida.

O sinal a monitorar: a passagem de um direito que pergunta "quem causou?" para um direito que pergunta "quem tinha o poder de desenhar o sistema de outro jeito?".