A China estendeu mais uma vez a sua política de censura e vigilância, à medida que procura manter modelos de inteligência artificial (IA) sob controle, mesmo enquanto corre para avançar a tecnologia em constante expansão.
O Partido Comunista Chinês (PCC) introduziu medidas mais regulatórias para garantir que suas empresas de tecnologia nacionais cumpram as regras ideológicas do partido.
Todas as empresas de IA são obrigadas a participar de uma revisão governamental que analisa os grandes modelos de linguagem (LLMs) das empresas para garantir que eles “incorporem valores socialistas essenciais”, conforme relatado pela primeira vez por o Financial Times semana passada.
Um homem passa por uma foto do presidente chinês Xi Jinping no Museu do Partido Comunista da China em Pequim, em 3 de março de 2023. (Greg Baker/AFP via Getty Images)
UMA NOVA RAÇA DE CÃES-ROBÔS MILITAR COM IA PODERIA SER A NOVA ARMA SECRETA DOS FUZILEIROS NAVAIS
A China trabalha há muito tempo para suprimir informações acessíveis pela internet por meio do uso de seu “Grande Firewall” — que tem sido usado para bloquear uma série de itens percebidos como ruins para o PCC, como informações sobre o massacre da Praça da Paz Celestial em 1989 ou memes comparando o presidente chinês Xi Jinping ao Ursinho Pooh.
Este firewall está sendo estendido para a arena da IA como A China apressa-se a avançar com as suas tecnologias ao mesmo tempo em que governa o conteúdo que cria.
A Administração do Ciberespaço da China (CAC) agora exige que empresas de IA como ByteDance, Moonshot e 01.AI participem de um processo de revisão que analisa a eficácia com que seus programas estão censurando os LLMs que estão construindo.
Os sistemas de chatbot estão sendo desenvolvidos não apenas para coletar palavras-chave confidenciais, mas também para bloquear informações sobre perguntas relacionadas a tópicos proibidos, geralmente envolvendo consultas relacionadas a direitos humanos.
Os sistemas de IA, por sua vez, emitem respostas como “tente uma pergunta diferente” ou “Ainda não aprendi como responder a esta pergunta. Continuarei estudando para melhor atendê-lo”.
Mas, em uma medida para evitar que os chatbots bloqueiem muitas perguntas, as políticas do CAC determinam que os LLMs não devem rejeitar mais de 5% de todas as perguntas, de acordo com o relatório do Financial Times.
Os sistemas de chatbot estão sendo desenvolvidos não apenas para coletar palavras-chave confidenciais, mas também para bloquear informações sobre perguntas relacionadas a tópicos proibidos. (Imagens Getty)
O QUE É INTELIGÊNCIA ARTIFICIAL?
Em vez disso, respostas genéricas consideradas politicamente corretas foram criadas para responder a tipos específicos de perguntas, embora controlar as respostas dos LLMs seja uma batalha difícil para os desenvolvedores.
A busca contínua da China por controlar a narrativa entre sua própria população demonstra uma ameaça maior, disse o especialista em IA Arthur Herman, membro sênior e diretor da Quantum Alliance Initiative do Hudson Institute, à Fox News Digital.
“Esse é o futuro que a China traçou para seus próprios cidadãos”, disse Herman. “É assim também que eles veem… ser capazes de controlar o mundo dos outros.”
Herman destacou o relacionamento crescente da China com o hemisfério sul, onde plataformas de mídia social como o WeChat decolaram.
“Inevitavelmente, haverá um controle social, um controle mental, um elemento que estará presente nesses programas… e para moldar um mundo que se pareça cada vez mais com o que a China quer que ele se pareça”, disse ele.
Herman também alertou que essas estratégias são não apenas jogando em plataformas de internet em nações autoritárias, mas em qualquer lugar onde as plataformas sejam acessíveis, incluindo os EUA
“Eles dominaram a arte da lavagem cerebral por meio do TikTok”, disse Herman. “Engenheiros chineses encontraram uma maneira de criar uma plataforma de mídia social que é altamente viciante e que também é altamente voltada para a lavagem cerebral de seus usuários para ver o mundo de uma certa maneira e responder a dicas visuais e sonoras de uma certa maneira.”
O presidente chinês Xi Jinping é visto liderando outras altas autoridades que prestam seus votos ao partido durante um show de gala antes do 100º aniversário da fundação do Partido Comunista Chinês em Pequim, em 28 de junho de 2021. (Foto AP/Por Han Guan)
CLIQUE AQUI PARA OBTER O APLICATIVO FOX NEWS
Herman disse que o uso das tecnologias do TikTok pela China é apenas uma “amostra” de como Pequim pode usar aplicativos de IA para manipular populações além de suas fronteiras.
“A China vê a IA como um meio de mudar a mente das pessoas”, disse ele. “A capacidade da IA de aprimorar esses tipos de aplicações de lavagem cerebral e controle mental é tão poderosa… que mesmo quando você não está realmente sob uma câmera de vigilância, mesmo quando não está realmente ouvindo ou assistindo a propaganda inspirada pelo governo… há outras maneiras mais sutis nas quais sua mente está sendo alterada e ajustada simplesmente por sua interação com coisas que estão acontecendo na vida diária — que são cada vez mais direcionadas por como o Partido Comunista quer que você veja o mundo.”
