Publicidade
Economia

Quais riscos podem surgir com a IA criada pela Anbima?

Ferramenta foi desenvolvida para responder dúvidas sobre autorregulação e será aberta a profissionais e investidores

Quais riscos podem surgir com a IA criada pela Anbima?

A Associação Brasileira das Entidades dos Mercados Financeiro e de Capitais (Anbima) lançou uma assistente virtual baseada em inteligência artificial para apoiar consultas sobre conteúdos de autorregulação do mercado financeiro.

Publicidade

Batizada de Anby, a ferramenta foi desenvolvida para responder dúvidas sobre regras, procedimentos, deliberações, glossários e perguntas frequentes da entidade, atendendo principalmente profissionais das áreas jurídica, de compliance e gestão de recursos.

A iniciativa surge em um momento de expansão do uso de inteligência artificial em atividades regulatórias e de conformidade.

Ao mesmo tempo em que promete acelerar pesquisas e facilitar o acesso a informações normativas, o uso dessas tecnologias também levanta dúvidas sobre responsabilidade, governança e os limites da confiança em respostas automatizadas.

A ferramenta começou atendendo cinco áreas específicas: administração e gestão de recursos, distribuição de investimentos, ofertas públicas, serviços qualificados e negociação de instrumentos financeiros.

A proposta é concentrar em um único ambiente conteúdos que normalmente exigem consultas a diversos documentos regulatórios.

Consulta automatizada não substitui análise jurídica

A própria Anbima afirma que a assistente foi criada para funcionar como apoio na consulta a conteúdos de autorregulação.

A entidade informa que as respostas são acompanhadas das referências normativas utilizadas e que a plataforma não emite opiniões nem realiza recomendações sobre investimentos.

O projeto foi desenvolvido a partir de uma demanda apresentada pelos próprios associados da instituição. Em comunicado divulgado pela associação, o diretor-executivo da entidade, Zeca Doherty, contextualiza que a iniciativa faz parte de uma estratégia mais ampla de inovação aplicada ao mercado financeiro.

“A Anby é o primeiro passo da nossa estratégia conversacional. Ela foi pensada para atender às necessidades atuais de consulta à autorregulação e já nasce preparada para evoluir para outros temas da Anbima”, ressalta.

Para Daniela Poli Vlavianos, sócia do Poli, Porto & Andreghetto Advogados, o avanço tecnológico não altera um princípio central do ambiente regulatório: a responsabilidade pelas decisões continua sendo humana.

“A inteligência artificial não possui capacidade decisória própria, tampouco substitui a análise técnica e jurídica exigida dos profissionais responsáveis pela atuação no mercado financeiro”, explica.

A especialista observa que as respostas produzidas por sistemas de IA devem ser tratadas como instrumentos auxiliares de consulta e não como interpretações oficiais ou fontes normativas independentes.

Quem responde por eventuais erros?

A discussão sobre responsabilidade ganha relevância justamente porque a ferramenta foi criada para atuar em um setor submetido a forte supervisão regulatória.

Daniela avalia que interpretações equivocadas podem gerar consequências relevantes para instituições financeiras, principalmente em temas ligados a fiscalização, governança, suitability e prevenção à lavagem de dinheiro.

“Caso a ferramenta forneça uma interpretação equivocada que induza usuários a descumprirem normas de autorregulação ou regulamentação estatal, poderá surgir discussão sobre eventual responsabilidade da entidade que desenvolveu e disponibilizou o sistema”, observa.

O advogado Fernando Manfrin, especialista em compliance e proteção de dados, destaca que a inteligência artificial não pode ser responsabilizada juridicamente por eventuais danos.

“A inteligência artificial não responde por nada, porque não tem personalidade jurídica. A responsabilidade continua inteira nas mãos de quem desenvolve a ferramenta e de quem decide com base nela”, afirma.

Segundo ele, mesmo que um usuário atue de boa-fé ao utilizar informações fornecidas por uma plataforma automatizada, isso não elimina os deveres de diligência exigidos pelas normas aplicáveis ao setor financeiro.

Risco de transformar o chatbot em autoridade regulatória

Outro ponto levantado pelos especialistas envolve a possibilidade de profissionais passarem a atribuir às respostas da IA um peso maior do que o efetivamente previsto pela ferramenta.

Em instituições financeiras, decisões precisam ser tomadas com rapidez e frequentemente envolvem análise de grande volume de normas e procedimentos. Nesse contexto, cresce o risco de respostas automatizadas serem tratadas como interpretações definitivas.

Daniela chama atenção para um fenômeno conhecido como confiança legítima, situação em que usuários passam a acreditar que determinada orientação representa a posição institucional da entidade responsável pelo sistema.

“Quanto maior a reputação da instituição responsável pela ferramenta, maior a tendência de os usuários atribuírem autoridade às respostas fornecidas”, avalia.

Manfrin considera que esse comportamento pode gerar problemas principalmente quando profissionais deixam de realizar verificações independentes.

“O Direito não reconhece a máquina como fonte de autoridade. Continua valendo o velho princípio: a decisão é humana, a responsabilidade é humana”, destaca.

Segundo ele, o valor jurídico de respostas produzidas por chatbots costuma ser definido pelos próprios termos de uso da ferramenta e normalmente possui caráter apenas orientativo.

Governança e supervisão aparecem como pontos centrais

Os especialistas defendem que a expansão da inteligência artificial em ambientes regulatórios exige estruturas robustas de controle e acompanhamento.

Daniela aponta que mecanismos de auditoria periódica, monitoramento contínuo das respostas, rastreabilidade das informações utilizadas e supervisão humana permanente são elementos fundamentais para reduzir riscos operacionais e jurídicos.

“Também são essenciais mecanismos de auditoria periódica, testes de qualidade das respostas, rastreabilidade das informações utilizadas pelo sistema, registro das interações realizadas pelos usuários e monitoramento contínuo da acurácia dos resultados”, detalha.

Na avaliação de Manfrin, uma ferramenta desse tipo precisa informar claramente quais normas embasam cada resposta e manter registros que permitam rastrear eventuais falhas.

“É de extrema importância manter registro de tudo que foi perguntado e respondido, para permitir investigação, caso algo venha dar errado”, observa.

O especialista acrescenta que modelos de inteligência artificial podem apresentar respostas incorretas com aparência de precisão, fenômeno conhecido como alucinação.

Por isso, defende a existência de mecanismos capazes de alertar usuários quando houver incertezas relevantes na geração das respostas.

Expansão da IA cria novos desafios regulatórios

O avanço da inteligência artificial no mercado financeiro ocorre em paralelo às discussões sobre regulação da tecnologia no Brasil e em outras jurisdições.

Daniela avalia que os benefícios associados à redução de custos, aumento da produtividade e ampliação do acesso à informação vêm acompanhados de novos desafios relacionados à transparência, responsabilização e supervisão.

“Outro desafio relevante consiste em evitar a chamada automação da confiança, fenômeno pelo qual profissionais deixam de exercer análise crítica própria e passam a aceitar respostas geradas por sistemas tecnológicos como se fossem conclusões definitivas”, alerta.

Para Manfrin, a velocidade de atualização das normas e a ausência de um marco regulatório específico para inteligência artificial ampliam a complexidade do tema.

“A IA generativa tem um defeito perigoso para o mundo regulatório: ela erra com a mesma confiança com que acerta”, pondera.

A Anby está disponível gratuitamente no portal da Anbima e representa uma das primeiras iniciativas de uso de inteligência artificial conversacional voltada especificamente para consultas de autorregulação no mercado financeiro brasileiro.

Siga O Brasilianista!