Reguladores globais afirmaram que formas cada vez mais autônomas de inteligência artificial poderiam ampliar os riscos para o sistema financeiro e pediram novos controles à medida que sua adoção se acelera.
O Conselho de Estabilidade Financeira (FSB, na sigla em inglês), em um relatório divulgado nesta quarta-feira (10), incentivou “fortemente” os conselhos de administração de instituições a considerar a implementação de salvaguardas para mitigar os riscos da inteligência artificial, incluindo os decorrentes da IA agêntica – ou seja, sistemas capazes de planejar, raciocinar e executar tarefas com supervisão humana limitada.
A IA agêntica já está sendo utilizada por instituições financeiras para detecção de fraudes, atendimento ao cliente e funções de “back-office” (sem contato com o cliente).
Em uma pesquisa do Cambridge Centre for Alternative Finance, 52% dos entrevistados do setor financeiro relataram adoção ativa da IA agêntica, com 23% deles ampliando uso ou transformando processos, enquanto 29% estavam testando funções agênticas em projetos-pilotos.
Órgãos reguladores e organismos globais de definição de padrões têm intensificado os alertas sobre os riscos representados pela implantação da IA em todo o setor financeiro, desde que a Anthropic lançou o Mythos, considerado por especialistas como um desafio significativo à segurança cibernética do setor bancário.
O FSB, um órgão global de definição de padrões, afirmou que a IA autônoma introduz riscos que podem “se materializar em grande velocidade”, incluindo a possibilidade de ações não autorizadas ou ilegais, violações de dados e interrupção de sistemas conectados.
“Os agentes de IA representam um desafio distinto para a supervisão humana”, afirmou o relatório, alertando que eles poderiam realizar ações que se desviam das intenções das empresas sem que a equipe perceba ou seja capaz de intervir rapidamente.
Para lidar com esses riscos, o órgão de padronização delineou uma série de “práticas recomendadas”, instando as instituições financeiras a definirem limites claros para o uso da IA e a incorporarem salvaguardas. As diretrizes não vinculativas estão abertas para comentários até 22 de julho.
As práticas incluem limites sobre o que os agentes de IA podem fazer e exigem aprovação humana para ações de alto risco, como transações financeiras acima de determinados limites.
As empresas também podem considerar a adaptação de controles e processos de recursos humanos aos agentes de IA de forma a tratá-los como “funcionários sintéticos”, afirmou o FSB.
Fonte: Valor Econômico
Ascom – CONTEC
