O governo da Coreia do Sul diz ser muito provável que uma ferramenta de IA para testes de segurança chamada Artex tenha sido usada em vazamentos de dados em mais de sete instituições financeiras, segundo a AFP via Tech Xplore. A Comissão de Serviços Financeiros coloca o número de afetados acima de 68.000. O Shinhan Bank disse que vazaram dados de pedidos de empréstimo de cerca de 25.000 clientes, incluindo nomes, telefones e renda.
Os vazamentos foram divulgados a partir de 30 de setembro. O presidente Lee Jae Myung disse em 6 de outubro que haviam surgido sinais do uso de agentes de IA em pelo menos alguns deles, segundo o The Record. Os investigadores encontraram 33 endereços IP ligados a pelo menos 12 países, e uma equipe policial de 28 pessoas cuida do caso. A CrowdStrike disse que o invasor usou o Artex e provavelmente fala chinês e tem motivação financeira. Nenhum grupo foi apontado.
O Artex foi construído como ferramenta defensiva. Ele automatiza os testes de segurança que as empresas fazem contra os próprios sistemas. Era de código aberto, então qualquer pessoa podia baixá-lo e modificá-lo. O desenvolvedor, que usa o apelido Autumn-27, disse em 8 de outubro que a ferramenta havia sido "abusada por alguns agentes mal-intencionados" e anunciou que ela passaria a ter código fechado, sem novas versões públicas.
Isso interrompe novos downloads a partir da fonte original. Não faz nada quanto às cópias já baixadas, como disse à AFP o analista Poe Zhao. Cerca de 20 empresas japonesas relataram possíveis invasões semelhantes, e a polícia de lá não disse se os casos estão ligados. Lee disse que a IA agora permite invadir sistemas "com facilidade, mesmo sem habilidades especializadas".
Em resumo
A vantagem do invasor foi uma ferramenta gratuita que executa as etapas tediosas de uma invasão sem um operador experiente. Se você guarda dados financeiros de clientes, parta do princípio de que há testes automatizados de credenciais e de vulnerabilidades rodando contra você continuamente, e rode primeiro essa mesma classe de ferramenta contra si mesmo. Fechar o código de uma ferramenta não retira a técnica de circulação.