BBCA noção de que a inteligência artificial poderá um dia tomar nossos empregos é uma mensagem que muitos de nós ouvimos nos últimos anos.
Mas, para Paul Skye Lehrman, esse aviso foi particularmente pessoal, assustador e inesperado: ele ouviu sua própria voz proferi-lo.
Em junho de 2023, Paul e sua parceira Linnea Sage estavam dirigindo perto de sua casa na cidade de Nova York, ouvindo um podcast sobre as greves em andamento em Hollywood e como a inteligência artificial (IA) poderia afetar a indústria.
O episódio foi interessante porque o casal é dublador e – como muitos outros criativos – teme que geradores de voz com som humano possam em breve ser usados para substituí-los.
Este podcast em particular tinha um gancho único: eles entrevistaram um bot de bate-papo com tecnologia de IA, equipado com software de conversão de texto em fala, para perguntar como ele achava que o uso de IA afetaria os empregos em Hollywood.
Mas, quando falava, soava exatamente como o Sr. Lehrman.
“Precisávamos parar o carro”, ele disse.
“A ironia de que a IA está chegando à indústria do entretenimento, e aqui está minha voz falando sobre a potencial destruição da indústria, foi realmente chocante.”
Naquela noite, eles passaram horas online, procurando por pistas até que encontraram o site da plataforma de texto para fala Lovo. Uma vez lá, a Sra. Sage disse que encontrou uma cópia de sua voz também.
“Fiquei chocada”, ela disse. “Não conseguia acreditar.”
“Uma empresa de tecnologia roubou nossas vozes, fez clones de IA delas e as vendeu possivelmente centenas de milhares de vezes.”
Eles agora entraram com um processo contra a Lovo. A empresa ainda não respondeu a isso ou aos pedidos de comentários da BBC.
Guerras Clônicas
Mas como Lovo conseguiu recriar suas vozes? O casal alega que foi feito sob falsos pretextos.
O cofundador da Lovo, Tom Lee, disse anteriormente que seu software de clonagem de voz só precisa que o usuário leia cerca de 50 frases para criar um clone fiel.
“Podemos capturar o tom, o caráter, o estilo, os fonemas e, mesmo que você tenha sotaque, podemos capturá-lo também”, disse ele ao podcast Future Visionaries em 2021.
No processo, o casal expôs como, segundo eles, Lovo obteve tal gravação deles.
Eles alegam que funcionários anônimos da Lovo os contataram para gravar recursos de áudio no Fiverr, o popular site de talentos freelance, onde estavam vendendo seus serviços de fornecimento de áudio para televisão, rádio, videogames e outras mídias.
Primeiro, em 2019, a Sra. Sage diz que um usuário entrou em contato pedindo que ela gravasse dezenas de roteiros de rádio de teste com sons genéricos.
Gravações de teste são frequentemente usadas em filmes e televisão para grupos focais, reuniões internas ou como marcadores de posição para trabalhos em andamento. Como não serão amplamente compartilhadas, essas gravações custam muito menos do que o áudio destinado à transmissão.
A Sra. Sage diz que concluiu o trabalho, entregou os arquivos e recebeu US$ 400 (£ 303).
Cerca de seis meses depois, o Sr. Lehrman diz que recebeu um pedido semelhante para gravar dezenas de anúncios de rádio com som genérico.
Em mensagens que o casal compartilhou com a BBC, o usuário anônimo do Fiverr diz que o áudio será usado para pesquisas sobre “síntese de fala”.
Depois de pedir ao usuário que garanta que os scripts não serão usados fora de seu projeto de pesquisa específico, o Sr. Lehrman pergunta qual é o objetivo do projeto.
“Os scripts não serão usados para mais nada”, diz o usuário, “e ainda não posso lhe dizer o objetivo, pois é um trabalho confidencial em andamento, desculpe haha”.
O Sr. Lehrman perguntou se os arquivos finalizados seriam reaproveitados ou usados em uma ordem diferente. O usuário diz que os arquivos serão usados apenas para fins de pesquisa. O Sr. Lehrman diz que entregou os arquivos e recebeu US$ 1.200.
O link entre o usuário anônimo e o Lovo veio, dizem eles, do próprio Lovo.
Eles compartilharam as evidências que encontraram de suas vozes clonadas com Lovo, que respondeu que eles não fizeram nada de errado, apontando as comunicações entre eles e o usuário anônimo como evidência de que eles se envolveram legalmente com o casal.
“Em nossas carreiras, entregamos mais de 100.000 ativos de áudio”, disse Lehrman sobre seu trabalho no Fiverr ao longo de quase uma década.
“Conseguimos encontrar esta agulha num palheiro – eles nos deram esta agulha num palheiro.”
Em ambos os casos, tanto o Sr. Lehrman quanto a Sra. Sage dizem que não tinham um contrato escrito, apenas essas conversas. A BBC não conseguiu verificar a totalidade de suas conversas. O casal diz que o usuário com quem falaram também parece ter excluído algumas mensagens.
A BBC contatou Lovo em várias ocasiões para solicitar uma entrevista com o Sr. Lee e buscar uma resposta às alegações do casal. Eles não responderam a nenhuma de nossas mensagens.
O que diz a lei?
O processo movido pelo casal em maio alega que Lovo usou gravações de suas vozes para criar cópias que competem ilegalmente com as vozes reais da Sra. Sage e do Sr. Lehrman.
O casal diz que a empresa fez isso sem permissão ou compensação adequada.
É uma ação coletiva, o que significa que eles esperam que outros reclamantes se juntem a ela, embora nenhum tenha feito isso até agora.
A professora Kristelia Garcia, especialista em direito de propriedade intelectual da Universidade de Georgetown, em Washington DC, diz que o caso provavelmente se concentrará em uma área do direito dos EUA chamada direitos de publicidade.
Às vezes chamadas de direitos de personalidade, as violações da publicidade de alguém geralmente vêm do uso indevido ou da deturpação da imagem ou da voz de alguém.
Ela também diz que provavelmente pode haver uma quebra de contrato em relação às licenças que a Sra. Sage e o Sr. Lehrman concederam ao usuário que encomendou as gravações.
“Licenças são permissões para um uso muito específico e restrito. Posso lhe dar uma licença para usar minha piscina uma tarde, mas isso não significa que você pode vir quando quiser e fazer uma festa na minha piscina”, ela disse à BBC.
“Isso excederia os termos da licença.”
Seja qual for o resultado do caso, este é mais um de uma longa lista de ações judiciais movidas por artistas, autores, ilustradores e músicos que não querem perder o controle de seu trabalho e meio de vida.
E é provável que sejam apenas a ponta do iceberg. Esta semana, a empresa financeira Klarna disse que planejou usar IA para reduzir pela metade sua força de trabalho.
Alguns especialistas prevêem 40% de todos os empregos acabará sendo impactado pela IA
Para o Sr. Lehrman e a Sra. Sage, esse futuro preocupante está se desenrolando agora.
“Toda essa experiência pareceu tão surreal”, disse a Sra. Sage.
“Quando pensamos em inteligência artificial, pensávamos em uma IA dobrando nossas roupas e fazendo nosso jantar, não perseguindo os esforços criativos dos seres humanos.”
Você pode ouvir mais sobre esta história em Vida Tecnológicana BBC Sounds.
