Em meio ao anúncio de que o Departamento do Tesouro dos Estados Unidos deixará de utilizar produtos desenvolvidos pela Anthropic, o CEO da empresa de Inteligência Artificial, Dario Amodei, afirmou que, apesar dos impasses, a companhia segue entre as que mais colaboram com o governo norte-americano. A crise começou após a Anthropic negar liberar sua tecnologia para uso de armas autônomas.
Em entrevista à CBS News, Dario Amodei disse que tem oferecido ferramentas de suporte operacional para os Estados Unidos, inclusive as que foram utilizadas na atual frente contra o Irã. Contudo, a empresa afirma que se nega a autorizar a utilização de armas totalmente autônomas sem supervisão humana, de modo a evitar a violação de normas éticas relacionadas ao uso de Inteligência Artificial.
“A Anthropic tem sido a empresa de IA mais proativa em trabalhar com o governo e o Exército americano. Fomos a primeira empresa a colocar nossos modelos na nuvem classificada, a primeira a criar modelos personalizados para fins de segurança nacional. Estamos implantados na comunidade de inteligência e no Exército, para aplicações como cibersegurança, apoio a operações de combate, entre outras. Fizemos isso porque acredito que precisamos defender o nosso país de adversários autocráticos como a China e a Rússia”, disse Dario Amodei.
Inteligência Artificial em decisões letais
De acordo com Amodei, a tecnologia atual ainda não é 100% confiável para tomar decisões letais sem intervenção humana, o que pode ultrapassar os limites legais existentes, especialmente no uso de IA para análise massiva de dados de cidadãos americanos. “Somos muito proativos com o setor público, mas acredito que ao nos defendermos de adversários precisamos fazê-los de formas que defendem e preservem nossos valores democráticos”.
Um dos principais perigos com o desenvolvimento da tecnologia é a vigilância em massa doméstica, que se refere ao monitoramento das comunicações e de atividades de cidadão por parte de agências de inteligência e ate mesmo pelo governo, afirma o CEO da Anthropic. Segundo ele, é necessário que os limites não sejam ultrapassados diante dos avanços.
“Uma das preocupações é a vigilância em massa doméstica. Preocupa-nos que práticas antes impossíveis se tornem viáveis com a IA. Um exemplo é a coleta de dados de empresas privadas, adquiridos pelo governo e analisados em larga escala por sistemas de inteligência artificial. Isso, na verdade, não é legal. A vigilância em massa doméstica está se tornando algo que ultrapassa os limites da lei. A tecnologia avança tão rapidamente que está completamente descompassada em relação à legislação”.
Segundo a própria Anthropic, o Departamento de Guerra dos Estados Unidos declarou que fará contratações apenas de empresas de IA que concordem com “qualquer uso legal” e removam as salvaguardas. “Independentemente disso, essas ameaças não alteram nossa posição: não podemos, em sã consciência, acatar o pedido deles”, disse comunicado da empresa.
Regulamentação da IA no mundo
O artigo “Como navegar pelas tendências globais na regulamentação da Inteligência Artificial” da EY Brasil aponta que pensar na regulamenta da IA é um desafio cada vez maior diante de sua capacidade do seu rápido desenvolvimento. A análise aponta que a percepção sobre o avanço da tecnologia varia entre os países, a exemplo da Índia, que divulgou uma declaração optando por não regulamentar a IA, já outros países demonstram preocupação com os avanços e defendem que seu uso deve ser controlado.
No Brasil, o governo entende que a saída mais favorável para a utilização de forma segura da IA é a regulamentação. Aprovado pelo Senado Federal, está em análise na Câmara dos Deputados o Projeto de Lei 2.338/2023, que propõe um regime regulatório baseado em risco para a tecnologia no país, conforme afirma o Ministério da Ciência, Tecnologia e Inovação. Atualmente, o texto aguarda parecer do relator da Comissão Especial.
“A proposta de regulação da inteligência artificial não pretende regular a tecnologia, mas os direitos e deveres dos agentes que atuam nessa cadeia, em todo o ciclo de vida da IA, desde a sua concepção, desenvolvimento, treinamento, implementação e uso, para resguardar os direitos fundamentais dos cidadãos”, comenta a assessora especial da Ministra e coordenadora do Comitê Gestor da Internet no Brasil, Renata Mielli.