André de Barros Faria, CEO da Vert Analytics, frisa que um clique de “aprovar” antes de um sistema automatizado seguir em frente pode parecer supervisão humana. Na prática, muitas vezes é apenas um ritual: a pessoa confirma sem revisar de fato, pois o sistema já decidiu o que vai acontecer e só aguarda a confirmação formal para prosseguir.
É essa diferença entre supervisão real e supervisão decorativa que ele considera central quando o assunto é uso responsável de IA em processos que afetam pessoas, tanto dentro de empresas quanto em serviços de maior alcance social.
O que separa supervisão real de um clique formal?
Supervisão real existe quando alguém com conhecimento técnico de verdade analisa a decisão antes de ela valer, com tempo e informação suficientes para discordar do que a máquina propôs. Supervisão formal existe quando o clique só confirma o que já ia acontecer de qualquer jeito, sem poder efetivo de barrar nada.
A diferença não está na interface, está no desenho por trás dela. Um sistema bem construído decide, por regra definida antes pelos responsáveis pela operação, quais ações exigem aprovação humana antes de seguir. Essa decisão nunca pode ficar a cargo do próprio sistema automatizado, porque isso devolveria à máquina o controle que a supervisão deveria oferecer.
Por que algumas decisões exigem parar e esperar uma pessoa
Nem toda decisão automatizada precisa de revisão humana antes de valer. Uma recomendação de produto errada se corrige na próxima interação. Por outro lado, André de Barros Faria pontua que uma ação que apaga um registro importante, altera um cadastro sensível ou afeta diretamente o acesso de alguém a um serviço essencial pode ser difícil, ou impossível, de desfazer depois.
É esse critério, o de quão grave e reversível é o erro possível, que deveria decidir onde a supervisão humana é obrigatória, não a conveniência de acelerar o processo. Sistemas que tocam a vida das pessoas de forma mais direta pedem esse cuidado redobrado, porque o erro ali não fica contido dentro da empresa: ele chega até quem depende do serviço do outro lado.
O que isso significa quando o sistema toca serviços essenciais?
Quando a automação entra em processos que afetam o acesso de cidadãos a serviços públicos ou privados de grande alcance, o custo de um erro deixa de ser só operacional e passa a ser social. Uma decisão automatizada equivocada pode negar um atendimento, atrasar um benefício ou tratar uma pessoa de forma injusta sem que ninguém perceba a tempo.
Nesses contextos, a supervisão humana genuína funciona como última barreira antes do dano acontecer, e não como formalidade a ser cumprida depois que o estrago já está feito. André Faria insere esse princípio como parte do que torna a inteligência artificial uma ferramenta de impacto positivo, tanto para empresas quanto para a sociedade que depende dos serviços que ela toca. É esse tipo de desenho, pensado desde o início do projeto, que diferencia automação responsável de automação apressada.
O impacto positivo começa no desenho, não na correção
Construir esse tipo de controle exige decisão deliberada de quem projeta o sistema: definir com clareza, antes de qualquer linha de código, quais ações exigem revisão humana e por quê, e documentar esse critério de forma que qualquer pessoa da equipe consiga auditar depois.
Tratar a supervisão como parte do projeto, e não como remendo adicionado depois de um erro público, é o que transforma um botão de aprovação em proteção de verdade, em vez de simples aparência de cuidado. André Faria, nesse ínterim, comenta que a diferença raramente aparece no dia a dia tranquilo de um sistema; ela aparece exatamente no momento em que algo sai do previsto, e é aí que se descobre qual dos dois desenhos a empresa realmente construiu.
