‘As pessoas simplesmente não estão preocupadas em serem enganadas’

Quando a avó de Clark Hoefnagels foi enganada em US$ 27.000 (£ 21.000) no ano passado, ele se sentiu obrigado a fazer algo a respeito.

“Senti que minha família estava vulnerável e eu precisava fazer algo para protegê-los”, diz ele.

“Havia um senso de responsabilidade em lidar com todas as coisas relacionadas à tecnologia para minha família.”

Como parte de seus esforços, o Sr. Hoefnagels, que mora em Ontário, Canadá, executou os e-mails fraudulentos ou de “phishing” que sua avó recebeu por meio do popular chatbot de IA ChatGPT.

Ele ficou curioso para ver se o sistema os reconheceria como fraudulentos, e o fez imediatamente.

A partir disso, o germe de uma ideia nasceu, que desde então cresceu e se tornou um negócio chamado Catch. É um sistema de IA que foi treinado para detectar e-mails fraudulentos.

Atualmente compatível com o Gmail do Google, o Catch verifica os e-mails recebidos e destaca aqueles considerados fraudulentos ou potencialmente fraudulentos.

Ferramentas de IA como ChatGPT, Google Gemini, Claude e Microsoft Copilot também são conhecidas como IA generativa. Isso ocorre porque elas podem gerar novos conteúdos.

Inicialmente, era uma resposta de texto em resposta a uma pergunta, solicitação ou você iniciando uma conversa com eles. Mas os aplicativos de IA generativa agora podem cada vez mais criar fotos e pinturas, conteúdo de voz, compor música ou fazer documentos.

Pessoas de todas as esferas da vida e indústrias estão cada vez mais usando essa IA para melhorar seu trabalho. Infelizmente, os golpistas também.

Na verdade, há um produto vendido na dark web chamado FraudGPT, que permite que criminosos criem conteúdo para facilitar uma série de fraudes, incluindo a criação de e-mails de phishing relacionados a bancos, ou criem páginas da web fraudulentas personalizadas para roubar informações pessoais.

Mais preocupante é o uso da clonagem de voz, que pode ser usada para convencer um parente de que um ente querido precisa de ajuda financeira ou, em alguns casos, para convencê-lo de que o indivíduo foi sequestrado e precisa pagar um resgate.

Existem algumas estatísticas bastante alarmantes sobre a escala do crescente problema de fraude de IA.

Relatos de ferramentas de IA sendo usadas para tentar enganar os sistemas dos bancos aumentou 84% em 2022, contabilizando os números mais recentes da organização antifraude Cifas.

A situação é semelhante nos EUA, onde um relatório deste mês disse que a IA “levou a um aumento significativo na sofisticação do crime cibernético”.

Dada essa crescente ameaça global, você imaginaria que o produto Catch do Sr. Hoefnagels seria popular entre os membros do público. Infelizmente, esse não foi o caso.

“As pessoas não querem isso”, ele diz. “Aprendemos que as pessoas não se preocupam com golpes, mesmo depois de terem sido enganadas.

“Conversamos com um sujeito que perdeu $15.000, e dissemos a ele que teríamos pego o e-mail, e ele não estava interessado. As pessoas não estão interessadas em nenhum nível de proteção.”

O Sr. Hoefnagels acrescenta que esse homem em particular simplesmente não achava que isso aconteceria com ele novamente.

O grupo que está preocupado em ser enganado, ele diz, são pessoas mais velhas. No entanto, em vez de comprar proteção, ele diz que seus medos são mais frequentemente amenizados por uma tática de tecnologia muito baixa – seus filhos dizendo a eles simplesmente para não responder ou replicar nada.

O Sr. Hoefnagels diz que entende completamente essa abordagem. “Depois do que aconteceu com minha avó, nós basicamente dissemos ‘não atenda o telefone se não estiver em seus contatos e não use mais e-mails’.”

Como resultado da apatia que Catch enfrentou, o Sr. Hoefnagel diz que suas opções são encontrar um parceiro adequado com produtos financeiros existentes ou encerrar o negócio.

Embora os indivíduos possam ser indiferentes a golpes, e os golpistas usem cada vez mais IA especificamente, os bancos não podem se dar ao luxo de ser assim.

Dois terços das empresas financeiras agora veem os golpes com tecnologia de IA como “uma ameaça crescente”, de acordo com uma pesquisa global de janeiro.

Entretanto, um estudo separado do Reino Unido, de Dezembro passado, afirmou que “era só uma questão de tempo antes que os fraudadores adotem IA para fraudes e golpes em grande escala”.

Felizmente, os bancos estão usando cada vez mais a IA para contra-atacar.

O software com tecnologia de IA criado pela startup norueguesa Strise tem ajudado bancos europeus a identificar transações fraudulentas e lavagem de dinheiro desde 2019. Ele analisa automaticamente e rapidamente milhões de pontos de dados por dia, revelando riscos ocultos.

“Há muitas peças do quebra-cabeça que você precisa juntar, e o software de IA permite que as verificações sejam automatizadas”, diz a cofundadora da Strise, Marit Rødevand.

“É um negócio muito complicado, e as equipes de conformidade têm aumentado drasticamente nos últimos anos, mas a IA pode ajudar a unir essas informações muito rapidamente.”

A Sra. Rødevand acrescenta que tudo se resume a manter-se um passo à frente dos criminosos. “O criminoso não precisa se importar com legislação ou conformidade. E eles também são bons em compartilhar dados, enquanto os bancos não podem compartilhar por causa da regulamentação, então os criminosos podem pular para novas tecnologias mais rapidamente.”

A Featurespace, outra empresa de tecnologia que cria software de IA para ajudar bancos a combater fraudes, diz que identifica coisas fora do comum.

“Não estamos rastreando o comportamento do golpista, mas sim o comportamento do cliente genuíno”, diz Martina King, presidente-executiva da empresa anglo-americana.

“Construímos um perfil estatístico em torno do que o bom normal parece. Podemos ver, com base nos dados que o banco tem, se algo é comportamento normal, ou anômalo e fora de sintonia.”

A empresa diz que agora está trabalhando com bancos como HSBC, NatWest e TSB, e tem contratos em 27 países diferentes.

De volta a Ontário, o Sr. Hoefnagels diz que, embora inicialmente tenha ficado frustrado porque mais pessoas não compreendem o risco crescente de golpes, agora ele entende que as pessoas simplesmente não acham que isso vai acontecer com elas.

“Isso me levou a ser mais simpático com os indivíduos e [instead] para tentar pressionar mais as empresas e os governos.”