Usar inteligência artificial da China é fazer um pacto com o diabo?

Imagine que fosse possível que todas as tarefas chatas do seu dia-a-dia se fizessem de forma mágica, que você pudesse se identificar sem precisar de documento, que pagar suas compras não precisasse de banco, que fosse encontrada a melhor fórmula personalizada para você aprender aquilo que deseja estudar, que você soubesse exatamente o que seus filhos estão fazendo e onde sem precisar perguntar e que uma máquina entregasse prontas as avaliações complexas que te dão insegurança na vida profissional. Você trocaria sua liberdade por essa vida?

É o tipo de hipótese que tendemos a colocar diretamente na prateleira da ficção: vender a alma ao diabo. O cinema e a literatura sempre exploraram a hipótese de escolher entre viver livremente a imperfeição da vida humana ou permitir que o espírito e a vontade passem a ser escravos em troca de um verniz que se aproxime da perfeição na Terra.

Na vida real, todos passamos por situações em que essa hipótese da ficção cruza o nosso pensamento. São as vezes em que cogitamos ceder nos princípios de olho em algum resultado específico. Até muito pouco tempo atrás, não tínhamos tecnologia suficiente para que a escolha entre perfeição escrava e liberdade imperfeita fosse tão real e absoluta quanto é hoje.

Os recursos de Inteligência Artificial utilizados hoje na China, nas tarefas mais cotidianas inclusive das crianças, ainda parecem para nós, brasileiros, coisa de ficção científica. É uma tecnologia tão fantástica que chega a parecer mágica diante dos nossos olhos. Por outro lado, o poder de controle sobre a vida dos indivíduos passa a ser total. Nenhum de nós tem mais como fugir desse mundo, precisamos conhecer.

Hoje, os Estados Unidos resolveram banir os aplicativos chineses TikTok e WeChat das lojas virtuais do país, o que virou notícia e polêmica no mundo todo. Poucos lembraram que os aplicativos de empresas norte-americanas sempre foram proibidos na China até para estrangeiros. Obviamente, como vivemos na apoteose da superficialidade das redes sociais, muita gente já tomou partido de um ou de outro nessa briga sem nem entender por que estão brigando e que nós todos somos parte, usando ou não o TikTok.

Não há como negar que o avanço tecnológico vivido por todo o mundo nos últimos anos tem uma velocidade inédita. Desde 2015, a China tinha um plano público de ser o país dominante nas tecnologias de dados e Inteligência Artificial e já conseguiu isso. O WeChat, por exemplo, que é tratado de forma errônea como o "WhatsApp chinês", é uma plataforma muito mais avançada do que nós temos acesso por aqui. Reúne, em um só aplicativo, o que temos no WhatsApp, no Instagram, no Facebook com lojas online, gerenciamento de clientes e plataforma de pagamentos e faturamento.

Trata-se de um outro nível do uso de dados, interação homem-máquina e Inteligência Artificial, já presente no cotidiano chinês e ainda visto como uma possibilidade de futuro para muitos de nós. A Agência Oficial de Notícias da China, que responde ao Partido Comunista Chinês, perguntou hoje a ocidentais que vivem em Xangai o que pensam do banimento do WeChat. Resolvi legendar o vídeo porque há um ponto importantíssimo: não há alternativa de contatos e manutenção de negócios na China de outra forma. O aplicativo realmente funciona e traz muitas facilidades, mas as atividades do dia-a-dia não são viáveis no país sem ele.

Não estamos diante de uma disputa comercial simples, mas diante do choque entre duas visões de mundo para a organização da sociedade, política e negócios. A nossa, mais próxima dos EUA, prioriza o indivíduo e o conceito de humanidade, tendo como principais valores a dignidade humana e as liberdades individuais. A Chinesa, partilhada por diversos outros países, prioriza a dominância de determinado grupo da sociedade, seja ela tribal, de castas, etnias ou ligada por laços políticos.

No pensamento que prioriza dignidade humana e liberdades individuais, direitos são inerentes à condição humana e cada indivíduo faz suas escolhas livremente, arcando com as consequências. No pensamento que prioriza a segmentação da sociedade, o conceito de dignidade é referente sempre ao grupo do qual se faz parte e se torna natural a priorização dos interesses do grupo dominante em detrimento dos direitos dos indivíduos que fazem parte dos outros grupos.

O que isso tem a ver com aplicativos e Inteligência Artificial? A noção de privacidade, liberdade e os limites para o domínio do Estado ou de um grupo dominante sobre indivíduos. Nas democracias, a questão da coleta e uso dos dados individuais por diversos aplicativos é uma discussão quente. Temos a noção do direito aos nossos dados, à privacidade e a saber exatamente de que forma as informações que empresas e governos têm sobre nós serão utilizadas. Isso sequer é cogitado no modelo chinês, que já avançou muito mais que o nosso na vida dos cidadãos em uma economia globalizada.

O calcanhar de Aquiles do Brasil é a educação. Conseguimos recentemente colocar quase todas as crianças na escola, uma vitória histórica, mas ainda não encontramos uma fórmula para melhorar a qualidade da educação. Com o uso de tecnologia de dados e Inteligência Artificial, a China transformou escolas em algo que parece para nós um filme de ficção científica. Não podemos negar que os resultados colhidos em termos de avanço educacional são importantíssimos, ainda que muito desiguais no maior país do mundo. O que aconteceria se implantássemos esse tipo de tecnologia por aqui?

Mais um vídeo da Agência de Notícias Oficial da China mostra o funcionamento de uma escola. Não é um projeto-piloto ou algo do gênero, mas um sistema já disponível para muita gente. Tudo é feito de forma automatizada, desde o reconhecimento facial na entrada, o registro de presença, o que os professores colocam na lousa e falam na aula, o que os estudantes comem e até como pagam a comida no refeitório. Parece mágica, um mundo maravilhoso. Mas veja esse vídeo pensando em quantos dados são coletados de cada criança ou adolescente e como podem ser usados:

Cada ato da vida cotidiana nas metrópoles da China já é ligado à Inteligência Artificial. Para os apaixonados por tecnologia, como eu, é difícil negar o deslumbramento. Pode parecer um paraíso a possibilidade de ter técnicas de ensino e avaliação personalizadas para cada criança, capazes de proporcionar a elas a melhor experiência possível. A grande questão é o preço da maravilha que, na lógica coletivista, é a liberdade individual.

A última fronteira do controle é a invasão da intimidade doméstica. Já vivemos isso de forma sutil, quando damos a diversos aplicativos, principalmente redes sociais, a permissão de nos vigiar 24 horas por dia em troca de algumas facilidades. Para falar com a família, postar fotos e ver coisas divertidas, deixamos que coletem, por exemplo, todos os sons captados pelo microfone do celular até quando desligado e a imagem gerada pelas câmeras. Nas democracias, o uso desses dados gera polêmicas monumentais e brigas ferrenhas. No modelo chinês, não há razão para discutir isso, a prioridade é "coletiva", na verdade, é o que deseja fazer o grupo dominante, o Partido Comunista Chinês.

A Agência Oficial de Notícias do governo chinês recentemente promoveu a empresa Hachi AI, que está a um passo de ter viabilidade comercial do seu modelo de "casa do futuro". É uma proposta em que todas as ações íntimas - incluindo a cozinha, o quarto e o banheiro - são supervisionadas pela empresa, que também faz compras e pagamentos para os usuários. São comodidades que nem os Jetsons imaginariam, mas ninguém nem discute o que será feito com todos os dados coletados das pessoas.

Há duas pontas na Inteligência Artificial: a coleta dos dados e o uso dos dados. Até aqui, vimos que é possível coletar todo e qualquer tipo de informação sobre um indivíduo oferecendo em troca comodidades e facilitação das tarefas cotidianas. Há um avanço impressionante também na outra ponta, a utilização desses dados para atender os interesses do Partido Comunista Chinês.

Muitas decisões judiciais na China já são tomadas por Inteligência Artificial, que tem acesso aos dados coletados de cada cidadão e são programadas de acordo com os interesses do grupo dominante no momento, os seguidores do Partido Comunista Chinês. No ano passado, uma Reforma Judicial abriu uma ala robotizada do Poder Judiciário, que inicialmente recebeu a inscrição de 73 mil 200 advogados e 1 milhão 160 mil cidadãos chineses. Até dezembro do ano passado, 3 milhões 140 mil ações já haviam sido decididas unicamente por Inteligência Artificial.

Essa nova versão do Poder Judiciário chinês utiliza Big Data, Cloud Computing e Inteligência Artificial para gerar decisões automaticamente. Foi lançada inicialmente em 12 províncias chinesas, somente em processos mais simples, como um projeto-piloto. A intenção, segundo as agências oficiais de notícias da China, foi agilizar o início de processos, mediação, oitivas e avaliação de provas. Oficialmente, a intenção é dar acesso ao Poder Judiciário sem precisar ir aos tribunais.

Os avanços tecnológicos parecem, num primeiro momento, soluções mágicas para problemas complexos do cotidiano. Mas temos de levar em conta que a existência humana não coexiste com a perfeição ou a isenção. A programação da Inteligência Artificial é feita de acordo com determinados princípios e interesses. No caso chinês, pode ser o avesso do que desejam os que acreditam em dignidade humana e liberdades individuais.

Você já deve ter ouvido falar no sistema de "crédito positivo" aqui no Brasil. Na China também existe algo do gênero, mas seguindo princípios bem diferentes. A vida do cidadão é convertida em um jogo de internet em que os objetivos são estar o máximo possível alinhado ao Partido Comunista Chinês. Os que falham sofrem punições reais.

O "score de crédito" proposto nas democracias ocidentais varia de acordo com o cumprimento de contratos bilaterais. Esse sistema tem críticos, apontam que pode ter distorções, ser injusto e violar direitos individuais. Imagine se houvesse um sistema semelhante em que o "score de crédito" fosse a medida do alinhamento do indivíduo aos interesses políticos e comerciais de um grupo dominante. Ele já existe na China.

Ao aderir ao sistema, todo cidadão ganha 1000 pontos. É possível ganhar mais doando sangue, ajudando os pobres ou falando bem do governo nas redes sociais. Trapacear em jogos online, não visitar os pais idosos, falar mal do governo ou defender inimigos do Partido Comunista Chinês tiram pontos. Só que não se trata de um jogo, é vida real.

Quem ganha mais pontos consegue empréstimos bancários com mais facilidade, coloca os filhos em escolas melhores ou é promovido mais rapidamente no emprego. Quem perde pontos pode ter moções de "vergonha pública" e sofrer sanções como proibição de viajar de trem ou avião. Em 2018, 128 pessoas com score baixo por deixar de pagar impostos foram proibidas de viajar ao exterior, 18 milhões de compras de passagens de avião e 5,5 milhões de compras de passagens de trem foram proibidas por "score baixo" no sistema.

Gostamos de pensar que tecnologia é sinônimo de evolução da humanidade, que eficiência é medida de progresso e que é possível tomar decisões puramente racionais. Talvez nunca antes na história da humanidade os valores, princípios e propósitos tenham sido tão importantes para o progresso.