Os reguladores bancários estão intensificando os esforços para conter os crescentes riscos da inteligência artificial, disseram seis pessoas familiarizadas com o assunto, com algumas apontando para o potencial de ataques cibernéticos a bancos ou agentes desonestos que podem comprometer a estabilidade financeira global.
O escrutínio regulatório, cujos detalhes são aqui divulgados pela primeira vez, reflete o crescente reconhecimento de que os avanços na inteligência artificial de ponta podem exigir investimentos dispendiosos em recuperação cibernética, maior atenção à dependência de fornecedores externos de tecnologia e, em algumas jurisdições, orientações regulatórias mais formais, disseram as fontes
Três dos principais órgãos reguladores dos Estados Unidos, incluindo o Federal Reserve, estão questionando os bancos sobre o uso de modelos avançados de inteligência artificial, disseram duas pessoas à Reuters, o que se soma ao escrutínio anterior .Entre as perguntas, estão se eles implantam tecnologia desenvolvida na China, usam agentes de IA na defesa cibernética e conseguem controlar sistemas cada vez mais autônomos, disseram três das pessoas.
Na Europa, órgãos de supervisão, incluindo o Banco da Inglaterra e o Banco Central Europeu, estão pressionando os bancos a aprimorarem seus planos de recuperação, preocupados com o fato de que os rápidos avanços na inteligência artificial possam causar sérios danos e perturbações nos mercados financeiros mais cedo do que se temia anteriormente, disseram três pessoas com conhecimento do assunto.
Um alto executivo de um grande banco europeu afirmou que eles também estão preocupados com os danos potencialmente graves que podem ocorrer aos mercados bancários e financeiros dentro de seis meses.O debate sobre a supervisão da IA intensificou-se em meio a alertas do setor após incidentes recentes, com o JPMorgan (JPM.N), O CEO Jamie Dimon está incentivando líderes corporativos a se juntarem a um grupo do setor com foco nos EUA para abordar os riscos da IA, informou a Reuters .
A empresa americana de cibersegurança CrowdStrike afirmou este mês que uma pessoa na China provavelmente usou um agente de IA desenvolvido na China e o código Claude da Anthropic em um ataque a bancos sul-coreanos. Agentes de IA maliciosos desenvolvidos pela OpenAI, por sua vez, estiveram envolvidos em uma violação da plataforma de IA Hugging Face, segundo reportagem da Reuters.
Pesquisadores antropológicos alertaram que sistemas de IA cada vez mais poderosos podem eventualmente escapar do controle humano e até mesmo representar uma ameaça existencial, o que levou a apelospor uma regulamentação mais rigorosa .
As perguntas do Gabinete do Controlador da Moeda (OCC), da Corporação Federal de Seguro de Depósitos e do Fed se concentram em quais limites são impostos aos sistemas, como suas ações são monitoradas e aprovadas e se os bancos podem rastrear e auditar claramente as decisões dos agentes de IA, disseram duas das pessoas.Eles também questionam quais salvaguardas existem para impedir que os agentes excedam sua autoridade, se os humanos continuam envolvidos em decisões importantes e como os bancos podem desativar sistemas autônomos.
O OCC, o Fed e o FDIC recusaram-se a comentar.Por meio de suas perguntas, os reguladores estão investigando questões mais específicas relacionadas a modelos avançados de IA, incluindo o uso de agentes de IA autônomos, modelos desenvolvidos no exterior e novos riscos cibernéticos, disseram as três pessoas com conhecimento sobre o assunto.
As consultas escritas e verbais a bancos de grande, médio e pequeno porte mostram que os reguladores estão se concentrando nas vulnerabilidades decorrentes do uso de IA pelos bancos e em sua prontidão para agir, acrescentaram.Os reguladores ainda estão coletando informações e não estão prescrevendo medidas específicas para os credores, disseram eles.
EUROPEUS PREOCUPAM-SE COM A RECUPERAÇÃO
Supervisores no Reino Unido estão incentivando os maiores bancos a examinarem os chamados planos de recuperação “bare metal”, disseram duas pessoas familiarizadas com o assunto. Esses sistemas são totalmente independentes da infraestrutura tecnológica principal do banco e podem ser acionados caso os sistemas operacionais primários sejam comprometidos.
Construir e manter um sistema de recuperação de última geração como esse é caro, disseram as pessoas.
Em vez de introduzir novos requisitos, as autoridades do Reino Unido pretendem trabalhar em colaboração com a indústria, acrescentaram.O Banco da Inglaterra recusou-se a comentar.Em julho, o BCE deu aos bancos um prazo até o final de outubro para
apresentarem planos para combater as ameaças cibernéticas facilitadas por IA , incluindo melhorias nos sistemas de backup e recuperação.Questionado sobre sua estratégia para regulamentar a IA, o BCE fez referência à sua carta de julho, bem como a um discurso de junho do membro do conselho Frank Elderson, que enfatizou a necessidade de criar um senso de urgência, e não de alarme, em relação às ameaças.
A necessidade de medidas de supervisão tornou-se ainda mais urgente depois que bancos e reguladores europeus
expressaram frustração com o acesso limitado ao Mythos este ano, em meio a preocupações de que os bancos americanos terão prioridade para testar modelos inovadores.
Assim como seus colegas nos EUA, os supervisores do Reino Unido também estão pedindo aos bancos que usem inteligência artificial de ponta para identificar vulnerabilidades e acelerar a aplicação de correções, disseram duas pessoas, sendo que uma delas acrescentou que, até o momento, as instituições financeiras têm feito um bom trabalho.
A terceira pessoa disse que os bancos da zona do euro também estavam sendo solicitados a mapear como a IA está sendo usada em seus negócios e fornecedores terceirizados, para entender as principais dependências e garantir que possam desligar e reiniciar os sistemas de forma controlada.
Eles acrescentaram que ainda persistiam lacunas significativas em algumas empresas.”Para se proteger contra ataques, a recuperação rápida é tão importante quanto a prevenção”, disse Sukand Ramachandran, diretor administrativo e sócio sênior da BCG.
Sem cópias limpas e seguras de dados críticos armazenadas separadamente, “um ataque grave poderia bloquear o acesso dos clientes às suas contas e interromper os pagamentos em toda a economia”, disse Ramachandran à Reuters.
