Robô comunista: como a China quer controlar a inteligência artificial

• 0

A China não quer ficar para trás e também vem investindo fortemente no desenvolvimento e aplicação da inteligência artificial (IA) em diversos setores da economia e da sociedade. No entanto, o regime do Partido Comunista Chinês, comandado pelo ditador Xi Jinping, tem demonstrado um forte interesse em controlar e orientar o uso da IA de acordo com seus interesses políticos e ideológicos.

Para isso, o regime chinês tem adotado uma série de medidas, que segundo autoridades, visam garantir a “segurança, a ética, a legalidade e a conformidade” da IA com os chamados “valores socialistas”.

Uma das medidas mais recentes e ambiciosas é um conjunto de regras para governar os serviços de IA gerativa no país, similares ao ChatGPT, da OpenAI, que usam algoritmos para gerar conteúdos como textos, imagens, vídeos, códigos e outros tipos de mídia. Esses serviços são baseados em tecnologias avançadas de aprendizado de máquina, como as redes neurais generativas adversariais (GANs, sigla em inglês), que podem criar conteúdos realistas e personalizados a partir de uma grande quantidades de dados.

Para controlar esses serviços, o regime chinês decidiu criar e estabelecer um marco regulatório para os serviços de IA gerativa, que entrará em vigor no país a partir do dia 15 de agosto. As regras foram elaboradas pela poderosa Administração do Ciberespaço da China (CAC, sigla em inglês), em conjunto com outros órgãos reguladores, e são consideradas as primeiras do mundo a regular especificamente esse tipo de serviço.

Tais regras serão aplicadas também a provedores estrangeiros de serviços de IA gerativa que tenham entre o seu público-alvo os residentes chineses.

As regras estabelecem uma série de requisitos e obrigações para os provedores de serviços de IA gerativa na China, que incluem: realizar uma revisão de segurança e registrar seus serviços junto ao governo; obter o consentimento dos usuários e informá-los sobre os objetivos, os métodos, os riscos e as consequências do uso dos serviços; garantir a "qualidade, a veracidade, a objetividade e a diversidade" dos dados usados para treinar os algoritmos; excluir ou filtrar os conteúdos que infrinjam os direitos intelectuais, a privacidade, a segurança nacional ou os “valores socialistas”; identificar claramente os conteúdos gerados pelos algoritmos e diferenciá-los dos conteúdos reais ou autênticos; estabelecer mecanismos de supervisão, auditoria, correção e remoção dos conteúdos gerados pelos algoritmos; e cooperar com as autoridades competentes na investigação e na punição das violações das regras.

De acordo com a CAC, as regras têm como objetivo “promover o desenvolvimento saudável e ordenado da IA gerativa na China, bem como proteger os interesses legítimos dos usuários, dos provedores e da sociedade em geral”. No entanto, elas podem ter implicações negativas para as liberdades individuais e para a capacidade de progresso das próprias IAs.

Uma das implicações negativas é a restrição à liberdade de expressão e à diversidade de opiniões na internet. Ao exigir que os conteúdos gerados pelos algoritmos da ferramenta estejam em conformidade com os “valores socialistas”, o regime de Xi Jinping tende a limitar ou censurar as vozes críticas ou dissidentes que questionem ou desafiem o status quo político e ideológico do país.

Além disso, ao identificar claramente os conteúdos gerados pelos algoritmos, as autoridades do regime podem deslegitimar ou desencorajar o uso criativo ou artístico da IA gerativa, por considerar que elas podem vir a servir como uma forma de expressão ou de protesto em algum momento.

Outra implicação negativa seria a inibição à inovação e à competição no mercado de IA gerativa. Ao impor requisitos rigorosos e burocráticos para os provedores de serviços de IA gerativa, o regime de Xi pode dificultar ou desestimular a entrada ou a expansão de novos desenvolvedores ou de desenvolvedores estrangeiros no mercado chinês. Além disso, ao restringir ou filtrar os dados usados para treinar os algoritmos, o regime chinês também pode reduzir ou comprometer a qualidade, a eficiência e a diversidade dos serviços das IAs gerativas.

Essas implicações negativas podem afetar não apenas os usuários e os provedores de serviços de IA gerativa na China, mas também o desenvolvimento global da IA e a cooperação internacional nessa área. A China é um dos principais atores na pesquisa e na aplicação da IA no mundo e as suas decisões regulatórias podem ter impactos significativos nas normas, nos padrões e nas práticas globais da IA.

Embora as regulamentações de IA na China não sejam explicitamente parte do “Grande Firewall” sob o qual o país coloca a sua internet, elas podem ser vistas como uma extensão desse esforço para controlar o conteúdo online.

O “Grande Firewall” chinês é um sistema de censura e vigilância que bloqueia o acesso a sites e serviços estrangeiros, como Google, Facebook e Twitter, e monitora o conteúdo online dentro da China. As regras criadas pelo regime de Pequim podem ser uma forma de estender esse controle para o conteúdo gerado pela inteligência artificial.

Em meio a esse cenário, empresas de tecnologia chinesas têm sido cautelosas ao lançar seus serviços semelhantes ao ChatGPT. Em vez de serviços completos amplamente disponíveis ao público, as empresas chinesas têm concentrado sua tecnologia em empresas e usos restritos.

Por exemplo, a Alibaba lançou neste mês uma ferramenta de inteligência artificial que pode gerar imagens a partir de solicitações chamada Tongyi Wanxiang, mas, por causa das novas regulamentações, ela está disponível apenas para clientes empresariais para testes beta.

Preocupação do regime comunista

O diretor da CAC, Zhuang Rongwen, disse em um evento de tecnologia realizado em junho que as IAs generativas poderiam afetar a sociedade em todos os seus aspectos e que isso estaria criando um novo desafio para o controle da internet no país.

“[Precisamos] garantir que a IA seja confiável e controlável”, pontuou.

Ele confirmou que o regime de Pequim estava “particularmente preocupado” com os dados usados pelas IAs generativas e na capacidade das mesmas de produzir conteúdos.

A CAC ainda não emitiu nenhuma permissão ou licença oficial para qualquer produto de IA generativa no mercado chinês, que é extremamente visado, já que são cerca de 1 bilhão de pessoas conectadas e dados que podem ser explorados. Além da Alibaba, outras grandes empresas chinesas, como o buscador Baidu, já estão trabalhando em suas próprias ferramentas de IA, mas sem usar o público geral chinês.

A administração de cibersegurança chinesa já publicou uma lista de 41 algoritmos de IA generativos que foram “registrados”, uma etapa de “pré-triagem” para serem oficialmente licenciados e lançados ao público.

Todos os algoritmos e produtos generativos de IA devem passar pelos novos testes de segurança e revisão lançados pela CAC antes de serem divulgados publicamente.

À Reuters, o professor de direito da Singapore Management University, Henry Gao, afirmou que o rígido ambiente de regulação deve persistir na China por bastante tempo, ainda mais com o avanço das IAs.

“Houve muitas [regulações] que chamo de ‘regulamentação preventiva’ na China nos últimos anos”, disse ele.

“Elas definitivamente sufocam a inovação e diminuem a capacidade das empresas chinesas de recuperar o atraso”, lamentou.