A inteligência artificial (IA) já não é mais o futuro, pois está entre nós. Em automatização, algoritmos e chatbots, a tecnologia se encontra no cotidiano de consumidores e de empresas, que utilizam de seus serviços em diversas frentes. No entanto, sem uma regulamentação específica para a ferramenta, uma questão importante que se apresenta é quem responde judicialmente por um erro causado pela IA.
Segundo publicado pelo O Brasilianista, os advogados Sérgio Pelcerman e Bárbara Alves buscam sanar a dúvida, porém, a resposta é ampla. Isso, pois, de acordo com os especialistas, apesar da empresa que implementou a tecnologia ser a primeira a ser responsabilizada, há diversos agentes que podem ser autuados pelo erro da ferramenta.
Conforme eles informam, o fornecedor da tecnologia, o desenvolvedor e até terceiros envolvidos na operação podem responder judicialmente pela falha da ferramenta. Para tal, a decisão depende de qual foi o erro e como foi possível traçar o caminho até o responsável.
Quando a empresa responde judicialmente
Os especialistas Sérgio Pelcerman e Bárbara Alves afirmam que, na maioria dos casos, a responsabilização recai sobre a empresa que contratou a tecnologia. Isso se dá pelo entendimento judiciário de que se a companhia optou pela automação de processos, ela também deve utilizar de mecanismos de supervisão, controle e redução de danos.
Para tal, empresas que são estruturadas devem implementar políticas de uso para a IA. Desta maneira, definindo quais ferramentas podem ser utilizadas e quais critérios de supervisão serão aderidos. Além disso, é necessário estabelecer auditoria e rastreabilidade para as decisões tomadas por IA.
E como as empresas podem ser prejudicadas?
Há casos em que o mal funcionamento da ferramenta dá prejuízos à empresa, como chatbots mal configurados e sistemas de precificação inadequados podem gerar danos em larga escala, podendo impactar milhares de consumidores no mesmo instante. Nos casos em que as companhias não podem identificar a origem do problema, ou como a decisão foi tomada pelo algoritmo, cria um cenário de “opacidade algorítmica”, segundo O Brasilianista.
Falta de regulamentação própria não significa nenhuma legislação
Apesar da regulamentação própria da IA ainda estar em discussão na Câmera dos Deputados, com o Projeto de Lei nº 2.338/2023, há outras legislações brasileiras que, atualmente, já enquadram judicialmente situações que envolvem falhas algorítmicas. Dentre elas, estão o Código Civil, a Lei Geral de Proteção de Dados (LGPD), a legislação trabalhista, o Código de Defesa do Consumidor e normas de propriedade intelectual.
O maior desafio jurídico nestes casos é identificar a origem da falha. Isso ocorre, pois os sistemas de IA possuem mecanismos de busca em grandes bancos de dados, que acabam funcionando de forma pouco transparente.
Cautela para a regulamentação
Em entrevista a O Brasilianista, a deputada federal Adriana Ventura (Novo-SP) defende a cautela para a regulamentação da IA. A vice-presidente da Comissão de Inteligência Artificial da Câmara dos Deputados destacou que a velocidade da tecnologia pode tornar a legislação obsoleta rapidamente ou, ainda, inibir o desenvolvimento e inovação da tecnologia no país.
Segundo a parlamentar, a cautela não significa que a regulamentação não é necessária. Para tal, ela defende a escuta de setores como o de saúde, do agronegócio, segurança pública e e indústria, de modo que o marco adotado seja flexível e permita ajustes posteriores.