O movimento acendeu um alerta de segurança em todo o setor financeiro nos Estados Unidos. Apesar das restrições citadas pelas publicações, o Morgan Stanley informou à agência Reuters que não registrou instâncias de agentes de IA não autorizados ou fora de controle nas plataformas.

A preocupação das instituições aumentou após relatos de que agentes teriam tentado realizar chamadas para centrais de atendimento e executar transações de forma independente. Em testes recentes reportados pelo Gizmodo , um agente de pesquisa interna da OpenAI acessou e retirou recursos de uma carteira de criptomoedas para concluir uma tarefa de programação, o que levantou discussões sobre a capacidade dos robôs de tomar caminhos imprevistos ao cumprir ordens.

Durante uma apresentação de resultados a investidores, o presidente executivo do JPMorgan Chase, Jamie Dimon, reforçou a posição rígida da empresa e alertou sobre o perigo de ter milhares de assistentes virtuais em operação sem supervisão.

“Não vamos permitir que qualquer agente externo entre na empresa, porque isso é muito arriscado para os clientes e para o JPMorgan”, declarou Dimon, à época.

A cautela atribuída às instituições financeiras coincide com o lançamento massivo de agentes autônomos no mercado. O aplicativo Muse , lançado pela Meta , atingiu a marca de dez milhões de downloads nos Estados Unidos nos primeiros 40 dias. Em paralelo, outras empresas de tecnologia disponibilizaram ferramentas semelhantes, como o Dots , da OpenAI , e o Duet , da Anthropic .

Diante do avanço rápido das ferramentas e da dificuldade em diferenciar se uma ação partiu de uma pessoa ou de um robô, a maioria dos bancos teria limitado o acesso das aplicações ao modo de leitura ( read-only ). Dessa forma, os assistentes conseguiriam apenas visualizar extratos e dados orçamentários, sem poder de efetuar pagamentos ou transferências.

O presidente executivo da corretora Charles Schwab, Richard Wurster, explicou o monitoramento diário realizado pela empresa para impedir interações autônomas indesejadas: