A inteligência artificial deixou de ser uma aposta para o futuro e passou a participar de decisões cotidianas das empresas. Sistemas analisam documentos, processam dados, produzem relatórios e auxiliam profissionais em atividades que, até pouco tempo atrás, dependiam exclusivamente da análise humana.
O avanço trouxe ganhos de produtividade, mas também uma pergunta cada vez mais presente nas mesas de executivos e departamentos jurídicos: quem responde quando a inteligência artificial erra?
Para Renato Opice Blum, advogado, economista, especialista em Direito Digital e sócio do Cescon Barrieu, a resposta depende da origem da falha e da atuação de cada participante envolvido no desenvolvimento, implementação e utilização da tecnologia.
Sócio-fundador da Opice Blum Advogados e professor da ESPM, FAAP, Insper e Ibmec, Blum atua há anos nas áreas de proteção de dados, inteligência artificial e segurança da informação.
“Depende da apuração de quem deu causa àquele comando”, afirma.
Isso significa que não existe necessariamente um único responsável. Uma falha de programação pode envolver o desenvolvedor. Problemas na implementação, inclusive relacionados ao descumprimento de normas técnicas, podem atingir quem colocou o sistema em funcionamento. E o usuário também pode entrar nessa cadeia, especialmente quando possui condições de compreender os riscos ou verificar a informação produzida pela ferramenta.
Quem usa IA também pode responder
O nível de conhecimento de quem opera uma ferramenta é um dos elementos relevantes nessa análise.
Segundo Blum, a situação de um profissional tecnicamente capacitado para identificar uma resposta incorreta não é necessariamente equivalente à de alguém que utiliza uma ferramenta sem conhecimento suficiente sobre seu funcionamento e suas limitações.
“Depende muito de quem está usando. Se quem está usando tem conhecimentos técnicos e condições de aferir, fica mais difícil de responsabilizar a ferramenta. Se não, e está usando sem conhecimentos, aí aumenta essa possibilidade”, afirma.
Avisos fornecidos pelas plataformas, possibilidade de identificação prévia do risco e existência de revisão humana também podem ser considerados na análise das responsabilidades.
O enquadramento jurídico depende ainda da relação existente entre as partes. Em relações de consumo, por exemplo, incidem regras específicas.
A IA, portanto, não elimina os modelos tradicionais de responsabilização. Ela acrescenta novos agentes e circunstâncias a uma cadeia que precisa ser examinada caso a caso.
Governança deixa de ser opcional
Dentro das empresas, a discussão não termina na escolha da ferramenta.
Blum defende estruturas de governança que estabeleçam responsáveis, processos de homologação, testes, regras de utilização e acompanhamento dos sistemas adotados.
Há ainda uma característica que diferencia a inteligência artificial de outras tecnologias corporativas: a velocidade de transformação.
“Isso não é algo que se implemente e para. Isso é dinâmico”, afirma.
Modelos são atualizados, novas funcionalidades aparecem e riscos podem mudar conforme os sistemas passam a desempenhar tarefas mais relevantes.
Para as companhias, isso significa transformar a governança de IA em um processo contínuo de gestão de risco, e não simplesmente criar uma política interna e arquivá-la.
Ignorar a inteligência artificial também pode gerar discussão
Blum chama atenção para outro lado dessa equação. Dependendo das circunstâncias concretas, deixar de utilizar recursos tecnológicos disponíveis também pode levantar discussões sobre responsabilidade.
“Aquele que não usar pode ser responsabilizado por omissão. Mas aquele que usa tem que usar com responsabilidade”, afirma.
A questão torna a decisão empresarial mais complexa do que simplesmente escolher entre aderir ou resistir à inteligência artificial.
O desafio passa a ser determinar quando determinada tecnologia é adequada, quais controles precisam acompanhá-la e até que ponto uma decisão pode depender do sistema.
De um lado, a adoção sem critérios pode aumentar a exposição da companhia. De outro, em situações específicas, a não utilização de uma ferramenta disponível pode ser questionada caso contribua para uma falha que poderia ter sido evitada.
“Erros sempre acontecerão”
Parte do problema está no próprio funcionamento dos modelos generativos.
“Os modelos de linguagem são instáveis por natureza. Então, eles não são instrumentos superlógicos, pelo contrário, eles usam a cadeia da estatística. Então, erros sempre acontecerão”, afirma Blum.
A constatação muda a maneira como empresas precisam lidar com a tecnologia.
Se não é possível pressupor que toda resposta produzida pelo sistema estará correta, as organizações precisam criar mecanismos para identificar falhas e evitar que uma informação errada seja automaticamente transformada em uma decisão empresarial.
Testes, atualização, supervisão humana e registro dos processos ajudam não apenas a reduzir riscos, mas também a reconstruir o caminho percorrido quando algo dá errado.
Essa rastreabilidade pode ser determinante para identificar onde ocorreu a falha e qual participante tinha responsabilidade naquela etapa.
Proteção de dados entra na equação
Os riscos aumentam quando ferramentas de inteligência artificial passam a receber informações pessoais.
A Lei Geral de Proteção de Dados (LGPD) estabelece princípios e obrigações que precisam ser observados pelas organizações no tratamento dessas informações. E o cuidado não se limita aos bancos de dados tradicionais.
Um simples prompt pode conter dados pessoais ou informações internas da empresa.
Por isso, na avaliação de Blum, políticas corporativas, treinamento de usuários e processos de homologação das ferramentas precisam alcançar também as instruções fornecidas aos sistemas.
Uma empresa pode investir em segurança de seus bancos de dados e, ao mesmo tempo, criar uma nova vulnerabilidade se funcionários copiarem informações indiscriminadamente para plataformas externas durante tarefas rotineiras.
*Funcionários precisam aprender a usar e a não usar IA*
Nesse ambiente, Blum destaca a importância do letramento em inteligência artificial.
A capacitação não deve se limitar a ensinar funcionários a escrever prompts ou extrair respostas melhores. É necessário compreender os limites da tecnologia, saber quais informações podem ser utilizadas, identificar situações em que determinada ferramenta não deve ser empregada e reconhecer quando a validação humana é indispensável.
“O principal ponto hoje é o letramento, é a atualização, é passar a conscientização de como se utilizar essas ferramentas, o que pode ser feito e o que não pode ser feito”, afirma.
Esse treinamento também não pode ser estático. Se ferramentas e modelos evoluem continuamente, a capacitação dos profissionais precisa acompanhar as mudanças.
Para as empresas, a inteligência artificial cria uma equação inédita. Em determinadas circunstâncias, ignorar tecnologias disponíveis pode levantar questionamentos sobre omissão. Adotá-las sem critérios, por outro lado, pode ampliar riscos jurídicos, regulatórios e relacionados à proteção de dados.
Entre esses extremos, a governança passa a ocupar posição central.
A inteligência artificial pode acelerar análises, automatizar tarefas e subsidiar decisões. A responsabilidade por estabelecer como, quando e sob quais controles ela será utilizada continua sendo humana.
