Os modelos de inteligência artificial generativa passaram a ocupar espaço no cotidiano de milhões de pessoas, seja para responder dúvidas, produzir textos, resumir documentos ou auxiliar decisões profissionais.
Ao mesmo tempo, o crescimento dessas ferramentas ampliou o debate sobre a existência de vieses políticos nas respostas dos chatbots e sobre os impactos que isso pode provocar para usuários, empresas e governos.
Um levantamento publicado pelo The Washington Post comparou as respostas de diferentes modelos de IA sobre temas políticos sensíveis e encontrou diferenças relevantes na forma como cada sistema apresenta argumentos.
Para especialistas, o debate vai além de identificar um posicionamento ideológico e passa pela transparência sobre como essas tecnologias são desenvolvidas.
Como surgem os vieses nas respostas
Modelos de inteligência artificial apresentaram comportamentos distintos ao responder perguntas sobre temas como ações afirmativas, financiamento eleitoral, pena de morte e imigração.
Nos testes, o ChatGPT respondeu à maior parte das questões apenas com argumentos classificados como de esquerda, enquanto o Gemini apresentou, na maioria dos casos, perspectivas dos dois lados do debate.
Outros modelos considerados conservadores também exibiram respostas predominantemente alinhadas a posições identificadas como de esquerda em parte das perguntas analisadas.
Para Elaine Coimbra, palestrante, professora e vice-presidente de comunicação da Associação Brasileira de Inteligência Artificial (Abria), a existência desse comportamento não significa que a inteligência artificial tenha convicções políticas próprias.
“Ela não tem consciência, ideologia ou intenção. O que existe é um conjunto de dados, escolhas de treinamento, regras de segurança, ajustes humanos e instruções internas que influenciam o tipo de resposta que o sistema entrega”, avalia.
Coimbra esclarece que a linguagem utilizada para treinar esses sistemas reflete valores, disputas e características da sociedade.
Como consequência, os modelos aprendem padrões existentes nos conteúdos analisados e calculam qual resposta parece mais adequada para determinada pergunta.
A especialista exemplifica que diferentes plataformas podem responder de maneiras distintas sobre um mesmo tema geopolítico justamente porque foram treinadas e configuradas de formas diferentes.
Neutralidade depende de transparência
Nos últimos anos, empresas de tecnologia passaram a prometer sistemas capazes de oferecer respostas imparciais. Na avaliação da especialista, porém, esse objetivo é mais complexo do que costuma ser apresentado ao público.
Para Coimbra, o foco deveria estar na capacidade de explicar como as respostas são produzidas e quais mecanismos existem para reduzir erros ou distorções. “Neutralidade total, na prática, é bem raro. O mais correto é falar em transparência, auditoria e rastreabilidade”, pondera.
A professora explica que um modelo pode ser ajustado para apresentar diferentes perspectivas sobre um assunto, informar quando existe controvérsia, citar fontes e evitar recomendações eleitorais diretas.
Ainda assim, ela considera que prometer neutralidade em qualquer contexto simplifica um problema que envolve escolhas técnicas, critérios de treinamento e decisões adotadas pelas empresas responsáveis pelo desenvolvimento da tecnologia.
Crescimento do uso amplia responsabilidade
O avanço da inteligência artificial também mudou a forma como muitas pessoas consomem informação.
Em vez de consultar diferentes fontes, comparar reportagens ou buscar documentos originais, parte dos usuários passou a recorrer aos chatbots como primeira opção para responder dúvidas.
Na avaliação da vice-presidente da Abria, essa mudança pode alterar a maneira como opiniões são formadas, já que a resposta costuma ser apresentada em linguagem organizada e com elevado grau de confiança.
“O chatbot não entrega apenas conteúdo. Ele organiza a realidade para o usuário. Ele escolhe o enquadramento, a ordem dos argumentos, o vocabulário e o grau de dúvida, o que pode influenciar opinião pública, consumo, reputação de empresas, percepção sobre governos, decisões de investimento e até estratégias corporativas”, informa.
Apesar desse cenário, Coimbra considera que o principal desafio não está na tecnologia em si, mas na forma como ela é utilizada.
A especialista destaca que o fortalecimento do letramento digital é essencial para que usuários compreendam as limitações da inteligência artificial e saibam verificar informações antes de utilizá-las como base para decisões importantes.
Ela acrescenta que entidades como a Abria, a Associação Brasileira dos Agentes Digitais (Abradi) e a AI Safety Brazil desenvolvem iniciativas voltadas à educação sobre inteligência artificial.
Empresas enfrentam desafios de governança
A adoção acelerada da IA também alcançou áreas estratégicas das empresas, como atendimento ao consumidor, marketing, recrutamento, análise de mercado e apoio à tomada de decisões.
Esse movimento amplia a necessidade de mecanismos capazes de reduzir riscos relacionados a respostas incorretas ou enviesadas.
Segundo Coimbra, uma ferramenta que apresenta informações incompletas como se fossem verdadeiras pode induzir decisões equivocadas dentro das organizações.
Além disso, existe o risco de danos à reputação quando sistemas automatizados reproduzem conteúdos discriminatórios ou politicamente sensíveis durante o atendimento ao público.
“A IA corporativa precisa de governança. Não basta contratar uma ferramenta e colocar para rodar, mas definir política de uso, critérios de validação, fontes confiáveis, limites de autonomia e revisão humana em temas sensíveis”, destaca.
A especialista também avalia que empresas que utilizam inteligência artificial em setores como crédito, saúde, educação, recursos humanos, serviços financeiros, jurídico e relacionamento com consumidores tendem a enfrentar maior exposição regulatória.
Ela observa que diferentes países avançam na criação de regras para o uso dessas tecnologias e cita que o Brasil discute o Projeto de Lei 2.338/2023, voltado à regulamentação da inteligência artificial.
Pensamento crítico continua indispensável
Além das discussões sobre regulação, Coimbra defende que organizações adotem processos internos capazes de identificar onde a inteligência artificial já está sendo utilizada, classificar riscos conforme cada atividade e estabelecer políticas claras sobre validação humana, proteção de dados e uso responsável da tecnologia.
Ela ressalta que o treinamento dos colaboradores deve acompanhar esse processo para evitar que respostas produzidas pelos modelos sejam aceitas automaticamente sem qualquer questionamento.
O objetivo, segundo a especialista, é transformar a inteligência artificial em uma ferramenta de apoio, e não em um substituto da capacidade humana de análise.
Ao tratar da relação entre usuários e chatbots, Coimbra resume a principal orientação que considera necessária diante da expansão dessas plataformas.
“Use IA, mas não entregue sua consciência e decisão para ela. A inteligência artificial pode ajudar muito, mas ela não substitui pensamento crítico, diversidade de fontes e responsabilidade humana”, finaliza.