Relações humanas: em tempos de inteligência artificial, somos mais do que nossos dados

Numa edição recente do The Atlantic, Adrienne LaFrance responde à perspectiva de uma revolução da inteligência artificial apelando a um regresso à experiência humana: “Este novo movimento deve dar prioridade aos humanos acima das máquinas e reimaginar as relações humanas com a natureza e com a tecnologia, ao mesmo tempo em que ainda avança no que esta tecnologia pode fazer de melhor.”

O “renascimento humanista” de LaFrance também tem implicações políticas. Nas próximas décadas, a preservação das condições de liberdade poderá exigir a domesticação do digital e a criação de um espaço para o que é distintamente humano.

Duas engrenagens motrizes da revolução digital são os impulsos em direção à legibilidade e à artificialidade. Especialmente para quem está no poder, a era digital permite uma legibilidade [NT: antecipação, interpretação] do comportamento pessoal inimaginável pelos regimes totalitários do século XX. Os bancos podem monitorizar as transações econômicas de uma pessoa segundo a segundo, a Apple e outras empresas tecnológicas podem monitorizar cada passo (cada respiração!) que uma pessoa dá, e as empresas de redes sociais registam petabytes de interação humana todos os dias. Não confinados às mãos das empresas, estes dados também podem ser fornecidos a entidades governamentais. Ao mesmo tempo, o digital também cria uma sensação flutuante de irrealidade. Tal como sugeriu o teórico dos meios de comunicação social Jon Askonas, a Internet ajudou a inaugurar uma nova era de narrativas digitais que se autorreforçam, permitindo até que o estatuto do “fato” seja contestado. Isolados em nossos silos informativos selecionados, podemos escolher em quais pontos de dados prestar atenção. A proliferação de falsificações profundas, fantoches e fatos inventados apenas aumenta esse sentimento de artificialidade epistémica.

Trabalhando em conjunto, estas duas tendências representam riscos para o autogovernança e a liberdade, tal como têm sido convencionalmente entendidas. A legibilidade absoluta permitiria o monitoramento do comportamento pessoal durante cada momento de vigília e do sono. O sistema de crédito social da República Popular da China depende, em parte, da legibilidade digital, e tanto os intervenientes privados como públicos nos Estados Unidos poderiam também procurar aproveitar a legibilidade digital para promover o controle. Em 2019, o estado de Nova York decretou que as companhias de seguros poderiam ajustar o risco de um cliente com base nas publicações desse cliente nas redes sociais. Quando o PayPal anunciou (e depois retirou apressadamente) uma atualização dos termos de serviço que impunha uma penalidade financeira por “desinformação”, gerou uma tempestade de críticas. Entretanto, a abstração digital pode se tornar uma condição favorável à paranóia, às teorias da conspiração e a ácidas críticas e boatos políticos. É muito mais fácil patologizar uma abstração do que outra pessoa.

Lidar com a disrupção digital pode envolver regulamentações da esfera digital – por exemplo, restringir grandes empresas financeiras de “cancelar financeiramente” alguém por causa de uma opinião política anunciada no Facebook. Mas enfrentar estes desafios também pode envolver garantir alternativas ao digital. Cultivar zonas de ilegibilidade [NT: em que os dados das pessoas não podem ser lidos] e incorporação humana pode ajudar a nutrir hábitos que contrastam com os imperativos digitais.

Consideremos o papel dos pagamentos digitais, que se tornaram especialmente populares na era pós-pandemia. Seja através de cartões de crédito e débito convencionais ou de aplicativos de pagamento mais recentes, como o Apple Pay, eles podem ser uma grande conveniência para consumidores e comerciantes. Eles também podem ajudar a reduzir certas formas de crime nas ruas. No entanto, vozes tanto da esquerda como da direita também levantaram preocupações sobre uma “sociedade sem dinheiro”, na qual não existe alternativa ao pagamento digital. Organizações como a ACLU [NT: União Americana pelas Liberdades Civis, em livre tradução] argumentaram que os economicamente vulneráveis ​​têm maior probabilidade de serem excluídos de uma economia sem dinheiro. Por outro lado, muitos populistas de direita temem que uma sociedade sem dinheiro possa ser um veículo para o governo federal e as grandes empresas espiarem os talões de cheques das famílias americanas. Nos últimos anos, o crescimento de lojas físicas e restaurantes sem dinheiro significa que ter acesso a pagamentos digitais é mais importante, mas este crescimento também provocou uma reação negativa. Em 1978, Massachusetts proibiu os varejistas que não aceitavam dinheiro. O Bay State [NT: apelido de Massachusetts] era então uma anomalia, mas outros estados e cidades (incluindo Colorado, Nova Jersey, Filadélfia e San Francisco) seguiram mais recentemente o seu exemplo. E este é um debate que poderia crescer plausivelmente. Um projeto de lei para restringir negócios sem dinheiro foi aprovado por esmagadora maioria na Câmara do Arizona no início deste ano, e Los Angeles está avaliando restrições semelhantes.

Além da política, as escolhas pessoais podem ter um papel na domesticação do digital. Por exemplo, as pessoas podem tornar-se menos legíveis digitalmente publicando menos nas redes sociais. Comunicar com uma pessoa cara a cara, em vez de através de textos, pode ser uma forma de desenvolver conexões corpo a corpo, como observa LaFrance em seu ensaio no The Atlantic. Até mesmo algo como comprar mídia física (livros, DVDs e assim por diante) pode ajudar a controlar alguns excessos digitais. Vários detentores de direitos autorais começaram a editar obras conhecidas do passado. A editora Puffin anunciou no início deste ano que havia feito uma edição “de sensibilidade” dos livros de Roald Dahl. Na mesma época, a editora de James Bond disse que iria relançar os livros clássicos de 007 sem a linguagem “ofensiva”. O serviço de streaming do Criterion Channel editou o premiado The French Connection [a conexão francesa, em livre tradução] de 1971 para eliminar uma injúria racial. Embora estas decisões tenham gerado considerável controvérsia sobre a “cultura do cancelamento” e a expurgação de obras anteriores, também apontam para a importância dos meios de comunicação físicos como forma de registar as complexidades da história. A leitura de livros físicos pode trazer certos benefícios cognitivos, e os livros físicos e outras mídias também podem oferecer um caminho de resistência à tentação de perfurar a memória ou reescrever o passado. Aqueles que ocupam cargos de comando não conseguem reescrever uma peça física de mídia com tanta facilidade; mesmo que uma versão expurgada de um livro seja lançada décadas após o seu lançamento, os livros físicos garantem que pelo menos algumas cópias do original permaneçam em circulação.

Apesar de toda a sua destruição de máquinas, os luditas [NT: trabalhadores ingleses que destruíam teares e outras máquinas] não conseguiram acabar com a Revolução Industrial no início do século XIX. Essa revolução da energia mecânica não pôde ser travada, mas foi domesticada: os esforços ambientais ajudaram a combater a poluição, os horários de trabalho foram regulamentados e foram desenvolvidos protocolos de segurança dos trabalhadores. No século XXI, a revolução digital poderá apresentar um desafio semelhante. A explosão do poder computacional oferece oportunidades consideráveis, mas precisa ser dirigida em prol do florescimento humano. Uma política sensata deve deixar espaço para o que é distintivamente humano – ver na pessoa algo mais do que dados.

© 2023 City Journal. Publicado com permissão. Original em inglês: We Are More Than Our Data