Por Sérgio Pelcerman e Bárbara Alves
A inteligência artificial deixou de ser uma promessa futurista para se tornar parte concreta da operação cotidiana das empresas.
Hoje, ferramentas baseadas em IA participam de processos de recrutamento, análise de crédito, elaboração de contratos, atendimento ao consumidor, publicidade, gestão de dados, monitoramento de produtividade e tomada de decisões estratégicas.
O avanço tecnológico é inegável. Mas, junto com os ganhos de eficiência, cresce também um novo tipo de risco jurídico: a judicialização da inteligência artificial.
O tema já começa a ocupar espaço relevante no Judiciário brasileiro, mesmo antes da aprovação de uma legislação específica sobre a IA.
O Projeto de Lei nº 2.338/2023, atualmente em tramitação na Câmara dos Deputados, busca estabelecer diretrizes para o uso responsável da tecnologia, sobretudo em temas ligados à transparência, governança, supervisão humana e proteção de direitos fundamentais. Ainda assim, a ausência de um marco regulatório definitivo não significa ausência de responsabilidade.
Na prática, o ordenamento jurídico brasileiro já possui instrumentos suficientes para responsabilizar empresas por danos causados por sistemas automatizados.
Código Civil, Lei Geral de Proteção de Dados (LGPD), Código de Defesa do Consumidor, legislação trabalhista e normas de propriedade intelectual já permitem enquadrar judicialmente situações envolvendo falhas algorítmicas, discriminação automatizada, vazamento de dados, uso indevido de conteúdo protegido e decisões automatizadas sem transparência.
O grande desafio jurídico da inteligência artificial está justamente na dificuldade de identificar a origem da falha. Diferentemente de decisões humanas tradicionais, os sistemas de IA operam a partir de modelos treinados com grandes volumes de dados, muitas vezes funcionando de maneira pouco transparente até para quem os utiliza. Surge, então, uma pergunta inevitável: quem responde quando a IA causa dano?
A resposta tende a ser ampla. Dependendo do caso, podem ser responsabilizados a empresa que utiliza a ferramenta, o fornecedor da tecnologia, o desenvolvedor do sistema e até terceiros envolvidos na operação.
No entanto, na maior parte das situações, a primeira responsabilizada será justamente a empresa que decidiu implementar a tecnologia em sua atividade econômica.
Isso ocorre porque o Judiciário tende a interpretar a adoção de IA dentro da lógica do dever de cautela empresarial. Se a empresa escolheu automatizar processos, espera-se que também implemente mecanismos razoáveis de supervisão, controle e prevenção de danos. A tecnologia não elimina o dever de diligência. Pelo contrário: pode ampliá-lo.
Os riscos já aparecem em diferentes áreas. No campo trabalhista, ferramentas utilizadas para recrutamento, monitoramento de produtividade e avaliação comportamental podem produzir vieses discriminatórios relacionados a gênero, raça, idade ou condição socioeconômica.
Sistemas automatizados podem excluir candidatos de forma invisível e sem critérios auditáveis, criando passivos trabalhistas relevantes e potencialmente alimentando ações coletivas.
Na área consumerista, o problema assume outra escala. Chatbots mal configurados, sistemas de precificação dinâmica, publicidade direcionada e mecanismos automatizados de recomendação podem gerar danos em massa em poucos segundos. Um erro humano isolado costuma atingir um indivíduo; um erro algorítmico pode impactar milhares simultaneamente.
A proteção de dados pessoais também se tornou um dos principais focos de litigiosidade. A LGPD já prevê, em seu artigo 20, o direito de revisão de decisões tomadas exclusivamente com base em tratamento automatizado de dados pessoais.
Isso afeta diretamente empresas que utilizam algoritmos para concessão de crédito, segmentação de consumidores, recrutamento ou classificação de perfis.
Em muitos casos, a empresa sequer consegue explicar de forma clara como determinada decisão foi tomada, criando um cenário conhecido como “opacidade algorítmica”.
Outro tema sensível envolve a inteligência artificial generativa e os direitos autorais. Ferramentas capazes de produzir textos, imagens, músicas e códigos vêm alimentando disputas globais sobre propriedade intelectual.
O primeiro debate envolve o treinamento dos modelos, frequentemente realizado a partir de conteúdos protegidos por direitos autorais.
O segundo está relacionado ao resultado produzido pela IA, que pode reproduzir estilos, elementos visuais, estruturas narrativas ou marcas protegidas.
A insegurança jurídica cresce porque a legislação autoral brasileira foi construída a partir da ideia de criação humana. Isso levanta dúvidas relevantes: quem é o autor de um conteúdo gerado por IA?
Existe proteção autoral? Há risco de plágio involuntário? Empresas podem explorar economicamente esse conteúdo sem risco?
Nas relações empresariais, esses questionamentos deixam rapidamente o campo teórico. Departamentos de marketing, publicidade, design, produção contratual e desenvolvimento de software já convivem com riscos relacionados à reprodução indevida de conteúdo protegido, uso de imagem e voz sem autorização e criação de deepfakes capazes de gerar danos reputacionais severos.
Diante desse cenário, cresce a importância da chamada governança algorítmica. O debate sobre inteligência artificial já deixou de ser apenas tecnológico para se tornar uma questão de compliance, gestão de risco e responsabilidade jurídica corporativa.
Hoje, empresas minimamente estruturadas já precisam implementar políticas internas específicas para o uso de IA, definir quais ferramentas podem ser utilizadas, estabelecer critérios de supervisão humana, revisar contratos com fornecedores de tecnologia e criar mecanismos de auditoria e rastreabilidade das decisões automatizadas.
Também se tornou indispensável investir em treinamento interno. Muitas violações não surgem necessariamente da tecnologia em si, mas do uso inadequado pelos próprios colaboradores, que frequentemente inserem dados estratégicos, documentos confidenciais ou informações de clientes em plataformas públicas de IA sem qualquer controle corporativo.
A tendência internacional reforça esse movimento. O AI Act europeu, uma das principais referências regulatórias globais sobre inteligência artificial, adota uma abordagem baseada em risco e estabelece obrigações rigorosas para sistemas considerados de alto impacto, incluindo supervisão humana, monitoramento contínuo e documentação técnica detalhada.
Embora a norma europeia não tenha aplicação direta no Brasil, ela já influencia padrões globais de governança e compliance tecnológico.
No fim, a discussão sobre inteligência artificial não trata apenas de inovação. Trata de responsabilidade. Empresas que utilizam IA sem mecanismos adequados de controle podem enfrentar não apenas prejuízos financeiros, mas também danos reputacionais relevantes e crescente exposição judicial.
Em um ambiente de litigiosidade crescente, a pergunta já não é mais se a inteligência artificial será judicializada. A questão agora é quais empresas estarão preparadas para responder por ela.
Sérgio Pelcerman – Sócio da área trabalhista do Almeida Prado & Hoffmann, é pós-graduado em Processo do Trabalho pela Universidade Mackenzie e Mestre em Direito, Justiça e Desenvolvimento pelo Instituto Brasileiro de Ensino, Desenvolvimento e Pesquisa (IDP).
Bárbara Alves – Advogada, atua na equipe de Direito Digital do escritório Almeida Prado e Hoffmann.