A inteligência artificial pode tornar Estados e corporações mais “totalitários”?

Por Alex Pipkin, publicado pelo Instituto Liberal

Ninguém – países, empresas, indivíduos – ficará imune à disrupção tecnológica. Como em tudo na vida, a evolução da inteligência artificial traz em seu bojo aspectos benéficos para o crescimento econômico e social, mas, por outro lado, abissal “controle” de governos (p.e. China) e grandes corporações (p.e. Google) sobre as pessoas.

Evidente que, na China atual, ferramentas de inteligência artificial auxiliam no sistemático monitoramento do comportamento e das ações dos indivíduos a serviço da intelligentsia chinesa. Vigilância severa que controla atividades online das pessoas e repassa tais informações para os órgãos públicos. Essa é a “liberdade chinesa”!

Já as grandes corporações, por meio de nossos cliques, muitas vezes incentivados nas redes sociais, a respeito de produtos, serviços, opiniões, posicionamentos políticos, hábitos de compra e consumo e uma série de outras informações e respectivas preferências individuais, tornam-nos “presas mais fáceis” para vigilância e controle corporativo.

Assim, somos submetidos às ações mercadológicas corporativas que, além de invadir sistematicamente a privacidade alheia, têm por objetivo vender mais ou motivar nossos impulsos para a compra de ofertas tailored made.

Numa sociedade instantânea, claro que isso pode “ajudar” na redução de tempo e de custos envolvidos no processo individual de compra, além de possibilitar que pessoas comprem coisas alinhadas com seus objetivos variados e distintos vinculados a formação de identidade. Similarmente, pode também potencializar ânsia consumista pelo “consumo desnecessário”.

O brilhante historiador e filósofo israelense Yuval Harari tem afirmado que, “a menos que criemos redes de segurança mundiais para proteger os humanos contra os choques econômicos que a inteligência artificial deverá provocar, países inteiros poderiam desmoronar e o caos, violência e ondas de migração resultantes desestabilizariam o mundo inteiro”. Sem dúvida, parece-me uma previsão acertada.

Ressalto que, quando existe verdadeira liberdade, pessoas podem escolher e migrar para contextos econômicos e sociais mais favoráveis, porém isso também acarreta conflitos relacionados às ondas migratórias indesejadas.

Não obstante os grandes benefícios que a inteligência artificial pode agregar quanto à conveniência e ao conforto humano, além de similarmente facilitar e possibilitar que governos e corporações ajam a serviço da sociedade no que tange, por exemplo, à saúde, à segurança e ao desenvolvimento de soluções melhores e mais baratas, é evidente que, em países em desenvolvimento como o Brasil, a economia da digitalização provocará o desaparecimento de empregos num nível muito superior à eventual compensação pela criação de novos vinculados à inteligência artificial.

Ao encontro com o pensamento de Harari, acredito que a inteligência artificial deve ter seus fundamentos baseados e regrados em princípios e ética.

O historiador aponta que “governos e empresas passarão a ter conhecimento, dados e potência de computação suficiente para monitorar todas as pessoas, o tempo todo, e saber o que cada um de nós pensa ou sente. Uma vez que um governo ou uma empresa nos entenda melhor do que nós mesmos nos entendemos, vai poder prever nossos sentimentos e decisões, manipular nossos sentimentos e decisões e, cada vez mais, tomar decisões em nosso nome”.

Nesse aspecto, tenho a pretensão de discordar do ilustre historiador. Uma coisa diz respeito à questão do controle e do tolhimento da liberdade e da privacidade individual. Embora seja contrário ao regramento excessivo e castrador da liberdade, aqui parece-me crucial que se criem regras e processos a fim de que a inteligência artificial desempenhe papel a favor da liberdade individual em detrimento da voracidade estatal e/ou corporativa.

Outra coisa bem diferente é a possibilidade de que os “algoritmos passam a nos conhecer melhor do que nós mesmos, em algum momento eles vão nos dizer o que estudar, onde trabalhar, com quem nos casar e em quem votar”. Definitivamente, estamos ainda muito longe disso.

O comportamento humano, parece-me extremamente complexo para que humanos e os dados imputados por eles em “máquinas inteligentes”, possam efetivamente “entender melhor do que nós mesmos nos entendemos”! Nem nós humanos temos nos compreendido ultimamente!

Interações individuais com regras e comportamentos morais continuam sendo enigmáticas e muito distintas entre as pessoas. Além disso, nossa razão muitas vezes é ofuscada pela ganância das emoções humanas! A ordem espontânea não me parece ser “controlada” por tal inteligência. Cabe ainda lembrar que constantemente experimentos em laboratório não reproduzem aquilo que acontece de fato na vida cotidiana!

Nesse cenário digno de George Orwell, a sociedade livre deveria – e creio eu irá – mobilizar-se para exigir dos governos e das empresas que ferramentas de inteligência artificial sejam utilizadas genuinamente a serviço da sociedade civil.

Claro que, em regimes políticos autoritários como o chinês, o governo garante obediência às custas da liberdade pessoal (essa “bomba relógio” vai explodir a qualquer momento…).

Como variável atenuante e solucionadora dos problemas mais complexos da humanidade, a formação educacional nos “básicos duros” e na indispensável “cultura geral” da ciência política e econômica, da antropologia, da psicologia, da filosofia e da história, são fundamentais para que em especial os jovens sejam expostos ao conhecimento acumulado e assim possam construir seus pontos de vista próprios.

Recentemente, li estudo psicanalítico fidedigno, referindo-se a mudanças nos próprios paradigmas dominantes na área. O referido artigo mencionava que diagnósticos que carregavam em si a pretensão de dar um veredito, enunciando uma verdade sobre o sujeito, agora estão sendo questionados.

Sabe-se atualmente que a psiquê do indivíduo é uma obra que está permanentemente mudando e se transformando a partir de vivências, experiências e encontros que se dão ao acaso e de forma imprevisível. Isso me faz pensar e ratificar que é extremamente complexo prever as emoções, os comportamentos e as ações humanas.

No que concerne aos desafios relacionados aos incentivos visando ao ato individual de refletir e criar juízo próprio, alinho-me totalmente à “escola sem partido”, o que se distancia em muito daquilo que é essencial para a formação humana “total”, ou seja, a exposição e discussão conceitual, contemporânea e séria das correntes do pensamento político, não partidário!

Mas calma lá com a crença de que a inteligência artificial “nos entenderá melhor do que nós mesmos”! Seguindo meus credos religiosos, o Messias ainda não chegou…

Bem o tema da inteligência artificial é bem humano e merece amplo e profundo pensamento reflexivo, crítico. Pontos positivos e negativos em jogo, negativos especialmente para nós, os “atrasados”!

Alex Pipkin é professor Mestre e Doutor em Administração: concentração em Marketing pelo PPGA da UFRGS.