O que é “lavagem de IA” e por que isso é um problema?

A Amazon recebeu manchetes críticas este ano quando relatórios questionaram a tecnologia “Just Walk Out” instalada em muitos de seus supermercados físicos.

O sistema com tecnologia de IA permite que os clientes de muitas de suas lojas Amazon Fresh e Amazon Go simplesmente escolham seus itens e depois vão embora.

A IA usa muitos sensores para descobrir o que você escolheu. Você então é cobrado automaticamente.

No entanto, em abril, foi amplamente divulgado que, em vez de usar apenas IA, a Just Walk Out precisava de cerca de 1.000 trabalhadores na Índia para verificar manualmente quase três quartos das transações.

A Amazon foi rápida em afirmar que os relatórios eram “errôneos”, e que os funcionários na Índia não estavam revisando as filmagens de todas as lojas.

Em vez disso, ele disse que os trabalhadores indianos estavam simplesmente revisando o sistema. A Amazon acrescentou que “isso não é diferente de qualquer outro sistema de IA que dá um alto valor à precisão, onde revisores humanos são comuns”.

Quaisquer que sejam os detalhes exatos do caso da Amazon, é um exemplo de alto nível de uma questão nova e crescente – se as empresas estão fazendo alegações exageradas sobre seu uso de IA. É um fenômeno que foi apelidado de “AI washing” em referência à “green washing” ambiental.

Mas primeiro, um lembrete do que exatamente significa IA. Embora não haja uma definição exata, a IA permite que os computadores para aprender e resolver problemas. A IA é capaz de fazer isso depois de ser treinada com grandes quantidades de informação.

O tipo específico de IA que tem feito todas as manchetes nos últimos anos é a chamada “IA generativa”. Esta é a IA especializada em criar novos conteúdos, seja tendo conversas de texto, ou produzindo música ou imagens.

Chatbots como ChatGPT, Gemini do Google e Copilot da Microsoft são exemplos populares de IA generativa.

Quando se trata de lavagem de IA, há vários tipos. Algumas empresas alegam usar IA quando, na verdade, estão usando computação menos sofisticada, enquanto outras exageram a eficácia de sua IA sobre as técnicas existentes, ou sugerem que suas soluções de IA são totalmente operacionais quando não são.

Enquanto isso, outras empresas estão simplesmente adicionando um chatbot de IA aos seus softwares operacionais existentes sem IA.

Enquanto apenas 10% das startups de tecnologia mencionaram o uso de IA em seus pitches em 2022, esse número aumentou para mais de um quarto em 2023, de acordo com a OpenOcean, um fundo de investimento com sede no Reino Unido e na Finlândia para novas empresas de tecnologia. Ela espera que esse número seja mais de um terço este ano.

E, diz Sri Ayangar, membro da equipe da OpenOcean, a competição por financiamento e o desejo de parecerem na vanguarda levaram algumas dessas empresas a exagerar suas capacidades de IA.

“Alguns fundadores parecem acreditar que se não mencionarem a IA em seu discurso, isso pode colocá-los em desvantagem, independentemente do papel que ela desempenhe em sua solução”, diz o Sr. Ayangar.

“E, a partir de nossa análise, existe uma disparidade significativa entre empresas que afirmam ter recursos de IA e aquelas que demonstram resultados tangíveis impulsionados pela IA.”

É um problema que existe silenciosamente há vários anos, de acordo com dados de outra empresa de investimento em tecnologia, a MMC Ventures. Em um estudo de 2019, descobriu-se que 40% das novas empresas de tecnologia que se descreviam como “start-ups de IA” na verdade não utilizou praticamente nenhuma IA.

“O problema é o mesmo hoje, só que é um problema diferente”, diz Simon Menashy, sócio geral da MMC Ventures.

Ele explica que “recursos de IA de ponta” agora estão disponíveis para todas as empresas comprarem pelo preço de software padrão. Mas, em vez de construir um sistema de IA completo, ele diz que muitas empresas estão simplesmente colocando uma interface de chatbot em cima de um produto não-IA.

Douglas Dick, chefe de risco de tecnologia emergente no Reino Unido na gigante de contabilidade KPMG, diz que o problema da lavagem de IA não é ajudado pelo fato de não haver uma única definição acordada de IA.

“Se eu perguntasse a uma sala de pessoas qual é a definição de IA, todas elas dariam uma resposta diferente”, ele diz. “O termo é usado de forma muito ampla e solta, sem nenhum ponto de referência claro. É essa ambiguidade que está permitindo que a lavagem de IA surja.

“A lavagem de IA pode ter impactos preocupantes para as empresas, desde pagar a mais por tecnologia e serviços até deixar de atingir objetivos operacionais que a IA deveria ajudar a atingir.”

Enquanto isso, para os investidores, pode ser mais difícil identificar empresas genuinamente inovadoras.

E, diz o Sr. Ayangar: “Se os consumidores não tiverem expectativas atendidas em relação a produtos que prometem oferecer soluções avançadas baseadas em IA, isso pode minar a confiança em startups que estão fazendo um trabalho realmente inovador.”

Os reguladores, pelo menos nos EUA, estão começando a tomar conhecimento. No início deste ano, a Comissão de Valores Mobiliários dos EUA (SEC) disse que era cobrando duas empresas de consultoria de investimentos com declarações falsas e enganosas sobre a extensão do uso da IA.

“A posição firme adotada pela SEC demonstra uma falta de margem de manobra quando se trata de lavagem de IA, indicando que, pelo menos nos EUA, podemos esperar mais multas e sanções no futuro para aqueles que violarem as regulamentações”, diz Nick White, sócio do escritório de advocacia internacional Charles Russell Speechlys.

No Reino Unido, regras e leis que abrangem a lavagem de IA já estão em vigor, incluindo o código de conduta da Advertising Standards Authority (ASA), que declara que as comunicações de marketing não devem enganar materialmente, nem ter probabilidade de fazê-lo.

Michael Cordeaux, associado da equipe regulatória do escritório de advocacia empresarial Walker Morris do Reino Unido, diz que as alegações de IA se tornaram uma característica cada vez mais comum de anúncios sujeitos à investigação da ASA.

Os exemplos incluem uma publicação paga no Instagram sobre um aplicativo intitulado “Melhore suas fotos com IA”, que foi considerado pela ASA como exagerando o desempenho do aplicativo e, portanto, era enganoso.

“O que está claro é que as alegações de IA estão se tornando cada vez mais predominantes e, presumivelmente, eficazes em despertar o interesse do consumidor”, diz o Sr. Cordeaux.

“Na minha opinião, estamos no auge do ciclo de hype da IA”, diz Sandra Wachter, professora de tecnologia e regulamentação na Universidade de Oxford e uma das principais especialistas globais em IA.

“No entanto, sinto que esquecemos de perguntar se sempre faz sentido usar IA para todos os tipos de tarefas. Lembro-me de ver anúncios no metrô de Londres de escovas de dentes elétricas que são alimentadas por IA. Para quem é isso? Quem é ajudado por isso?”

Além disso, o impacto ambiental da IA ​​é frequentemente ignorado, ela diz.

“A IA não cresce em árvores… a tecnologia já contribui mais para a mudança climática do que a aviação. Temos que nos afastar dessa discussão unilateral e exagerada, e realmente pensar sobre tarefas e setores específicos para os quais a IA pode ser benéfica, e não apenas implementá-la cegamente em tudo.”

Mas, a longo prazo, diz Advika Jalan, chefe de pesquisa da MMC Ventures, o problema da lavagem de IA pode diminuir por si só.

“A IA está se tornando tão onipresente – mesmo que sejam apenas invólucros do ChatGPT – que ‘alimentado por IA’ como uma ferramenta de branding provavelmente deixará de ser um diferencial depois de algum tempo”, ela diz. “Será um pouco como dizer ‘estamos na internet’.”