Nove dias depois de Mark Zuckerberg, o executivo-chefe do Facebook, ter descartado como “maluca” a ideia de que notícias falsas divulgadas na rede social de sua empresa tenham exercido papel crucial na eleição americana, o presidente Barack Obama chamou o jovem bilionário da tecnologia de lado e lhe transmitiu um aviso que esperava que o despertasse para o que estava acontecendo.
Durante meses antes da eleição, Obama e seus principais assessores se angustiaram em silêncio, debatendo como reagir à intervenção descarada da Rússia em favor da campanha de Donald Trump, de uma maneira que não agravasse a situação. Semanas após a vitória inesperada de Trump, alguns dos assessores de Obama refletiram sobre o que aconteceu e pensaram que gostariam de ter feito mais.
Numa reunião reservada nos bastidores de um encontro de líderes mundiais, em Lima, no Peru, dois meses antes da posse de Trump, Obama lançou um apelo pessoal a Zuckerberg, pedindo que levasse a sério o perigo das falsas notícias e da desinformação política. Ele avisou que, se o Facebook e o governo não fizessem mais para combater essa ameaça, ela apenas se agravaria na próxima campanha presidencial.
Onda de desinformação
Zuckerberg reconheceu o problema do “fake news”. Mas disse a Obama que essas mensagens não são disseminadas em grande volume no Facebook e que não havia uma maneira fácil de resolver o problema. A informação é de pessoas informadas sobre a troca de ideias, que exigiram anonimato para compartilhar detalhes sobre uma conversa particular.
A conversa entre Obama e Zuckerberg no dia 19 de novembro passado foi um dos momentos marcantes de um ano tumultuado em que Zuckerberg começou a tomar consciência da magnitude da nova ameaça – um ataque coordenado à eleição americana, lançado por uma força estrangeira que não mostrava seu rosto e explorava a rede social que ele havia criado.
Como o governo americano, o Facebook não previu a onda de desinformação que estava chegando e a pressão política que se seguiria a ela. A empresa então enfrentou várias escolhas difíceis para intensificar as proteções de seus próprios sistemas, sem restringir a liberdade de expressão de seus usuários pelo mundo afora.
Demora a agir
Um resultado desses esforços foi a declaração de Zuckerberg, na quinta-feira passada, admitindo que o Facebook foi manipulado, de fato, e que a empresa agora vai entregar ao Congresso americano mais de 3.000 anúncios de temática política que foram comprados por suspeitos agentes russos.
Mas esse momento altamente público se deu após meses de manobras nos bastidores que inseriram o Facebook, uma das empresas mais valiosas do mundo – e que é usada por um terço da população do mundo todos os meses – numa luta pelo poder em Washington que envolve muitas partes e na qual a empresa tem muito a perder.
Alguns críticos dizem que o Facebook demorou a agir e está agindo agora apenas devido às pressões políticas externas que sofreu.
“Ocorreu uma falha sistemática de responsabilidade” da parte do Facebook, segundo Zeynep Tufecki, professor da Universidade da Carolina do Norte em Chapel Hill e estudioso do impacto das empresas de mídia social sobre a sociedade e os governos.
“Isso se deve a seu excesso de confiança em que ela sabe o que fazer, sua ingenuidade em relação a como o mundo funciona, seu esforço caro para evitar qualquer fiscalização e ao fato de seu modelo econômico contar com muito poucos funcionários, o que faz com que não haja ninguém ‘cuidando da loja’.”
O Facebook diz que reagiu de modo apropriado.
“Acreditamos no poder da democracia, é por isso que estamos levando tão a sério este trabalho sobre a integridade das eleições e estamos aproveitando todas as oportunidades para levar a público o que descobrimos”, disse Elliot Schrage, vice-presidente de políticas públicas e comunicações do Facebook.
Um porta-voz de Obama se negou a dar declarações.
Lado negro da rede social
Baseado em entrevistas com mais de 12 pessoas envolvidas na investigação do governo e na resposta do Facebook, o presente artigo traz o primeiro relato detalhado de um processo que durou 16 meses e ao longo do qual o Facebook foi obrigado a encarar um ataque estrangeiro imprevisto contra o sistema político dos Estados Unidos e a iniciar uma busca por ferramentas para limitar os efeitos negativos.
Entre as revelações feitas está como o Facebook detectou em junho de 2016 alguns elementos da operação russa de desinformação e avisou o FBI do fato. No entanto, nos meses seguintes o governo e o setor privado tiveram dificuldade em trabalhar juntos para diagnosticar e solucionar o problema.
O drama político crescente em torno dessas questões surgiu numa época de cobrança maior de responsabilidades do Facebook, com Zuckerberg debatendo se deve ou não assumir papel mais ativo no combate a um lado negro emergente na rede social, que inclui a veiculação de notícias falas, suicídios transmitidos em vídeo ao vivo e alegações de que a empresa teria censurado o discurso político.
Novas regras
Essas questões obrigaram o Facebook e outras empresas do Vale do Silício a refletir sobre seus valores fundamentais, incluindo a liberdade de expressão, e sobre os problemas gerados quando atores perversos utilizam essas mesmas liberdades para divulgar mensagens de violência, ódio e desinformação.
Enquanto isso vem crescendo um clamor bipartidário por novas regras para regulamentar um setor de tecnologia que, em meio ao crescimento histórico de sua riqueza e poder nos últimos dez anos, tem em grande medido contado com a boa vontade de Washington, apesar das preocupações citadas por críticos de seu comportamento.
Em especial, vem ganhando força no Congresso e em outros setores do governo federal uma campanha pela adoção de uma lei que exija que empresas de tecnologia revelem –como fazem os jornais, as emissoras de televisão e outros veículos que tradicionalmente transmitem mensagens de campanha – quem publica anúncios políticos e quanto gasta com eles.
“Não há dúvida de que a visão de que o Vale do Silício é o queridinho de nossos mercados e nossa sociedade está mudando”, disse Tim O’Reilly, assessor de executivos do setor de tecnologia e executivo-chefe da influente O’Reilly Media, do Vale do Silício.
Rússia na jogada
O encontro em Lima não foi a primeira vez que Obama pediu a ajuda do Facebook.
Depois do ataque de dezembro de 2015 em San Bernardino, Califórnia, o presidente despachou membros de sua equipe de segurança nacional – incluindo o chefe de gabinete Denis McDonough, o secretário de Segurança Interna, Jeh Johnson, e a assessora chefe de contraterrorismo Lisa Monaco – para reuniões com executivos do Vale do Silício, para discutir maneiras de frustrar a prática do Estado Islâmico de usar plataformas tecnológicas sediadas nos EUA para recrutar membros e inspirar ataques.
O resultado foi uma reunião em 8 de janeiro de 2016 que teve a participação de uma dos principais subordinados de Zuckerberg, a executiva operacional chefe do Facebook, Sheryl Sandberg. Para a administração americana, o esforço valeu a pena quando o Facebook decidiu criar uma unidade especial para desenvolver ferramentas para localizar mensagens do Estado Islâmico e bloquear sua disseminação.
Os esforços da empresa foram beneficiados em parte pelo modo relativamente transparente em que a organização extremista procurava reforçar sua “marca” global. A maioria de suas mensagens de propaganda no Facebook incorporava a bandeira negra do Estado Islâmico – o tipo de imagem que programas de software podem ser treinados para detectar automaticamente.
Contrastando com isso, o esforço de desinformação lançado pela Rússia se mostrou muito mais difícil de rastrear e combater, porque os agentes russos aproveitaram as funções chaves do próprio Facebook, vinculando usuários com conteúdos compartilhados e com anúncios direcionados seletivamente para o público americano, de modo a moldar o ambiente político numa temporada política especialmente contenciosa, disseram pessoas familiarizadas com a resposta do Facebook,
Diferentemente do Estado Islâmico, os conteúdos que agentes russos postaram no Facebook eram, em sua maioria, indistinguíveis de conteúdos legítimos de teor político. A diferença era que as contas criadas para divulgar a desinformação e o ódio eram ilegítimas.
Descobriu-se que, sem se dar conta disso, o Facebook caiu na operação russa quando ela estava ganhando ímpeto, em junho de 2016.
Na época, especialistas em cibersegurança da empresa estavam rastreando um grupo de hackers russos conhecido como APT28 ou Fancy Bear que a inteligência americana considerava ser um braço do serviço russo de inteligência militar, o GRU. A informação é de pessoas familiarizadas com as atividades do Facebook.
Os membros do grupo russo de hackers eram conhecidos principalmente por roubar planos e informações militares de alvos políticos, de modo que especialistas em segurança supuseram que eles estivessem planejando algum tipo de operação de espionagem, e não uma grande campanha de desinformação cuja finalidade era determinar o resultado da corrida presidencial nos Estados Unidos.
Executivos do Facebook compartilharam com o FBI suas suspeitas de que uma operação russa de espionagem estava em atividade, segundo uma pessoa familiarizada com o assunto. Um porta-voz do FBI não comentou.
Pouco depois disso, os especialistas do Facebook encontraram evidências de que membros do APT28 estavam criando uma série de contas suspeitas – incluindo a de uma figura chamada Guccifer 2.0 e uma página chamada DCLeaks – para divulgar e-mails roubados e outros documentos durante a campanha presidencial. Representantes do Facebook entraram em contato com o FBI novamente para compartilhar o que haviam encontrado.
Após a eleição de novembro, o Facebook começou a examinar melhor as contas criadas durante a campanha presidencial.
Uma revisão feita pela empresa concluiu que a maioria dos grupos responsáveis pelas páginas problemáticas tinha motivação financeira clara, o que sugeria que não estariam a serviço de um governo estrangeiro.
Mas, em meio ao grande volume de dados que a empresa estava analisando, a equipe de segurança não encontrou evidências claras de desinformação russa nem de compras de anúncios por contas ligadas à Rússia.
E nenhum agente da polícia ou inteligência dos EUA visitou a empresa para apresentar o que sabia, disseram pessoas informadas sobre o esforço, mesmo depois de o funcionário de inteligência de mais alto escalão do país, James Clapper, ter deposto no Capitólio em janeiro, dizendo que os russos tinham travado uma enorme campanha de propaganda política online.
A sofisticação das táticas usadas pelos russos pegou o Facebook desprevenido. Sua equipe de segurança, altamente respeitada, havia construído defesas fortes contra ciberataques tradicionais, mas não havia previsto que usuários do Facebook, usando ferramentas automatizadas facilmente disponíveis, iriam transmitir pela rede social propaganda política redigida com astúcia, sem deflagrar qualquer alarme.
Enquanto o Facebook se debatia, tentando encontrar evidências claras de manipulação russa, a ideia ganhava credibilidade em outros setores influentes.
No período tenso após a eleição, assessores de Hillary Clinton e Barack Obama examinaram os números eleitorais e os dados sobre comparecimento de eleitores às urnas, procurando pistas para explicar algo que, para eles, tinha sido uma sequência de fatos não natural.
Uma das teorias que emergiu dessa espécie de autópsia foi que agentes russos, orientados pelo Kremlin a apoiar Trump, podem ter aproveitado o Facebook e outras plataformas de mídia social para direcionar suas mensagens a eleitores americanos em áreas demográficas cruciais, de modo a aumentar o entusiasmo por Trump e enfraquecer o apoio a Hillary.
Esses ex-assessores ainda não dispunham de evidências concretas de que trolls russos tivessem usado o Facebook para direcionar materiais a eleitores em distritos eleitorais indecisos. Mas compartilharam suas teorias com os comitês de inteligência da Câmara e do Senado, que em janeiro abriram inquéritos paralelos para investigar o papel da Rússia na campanha presidencial.
O senador Mark Warner, vice-presidente do Comitê de Inteligência do Senado, não teve certeza em um primeiro momento como interpretar o papel do Facebook. As agências de inteligência americanas haviam informado o democrata da Virgínia e outros membros do comitê sobre alegados contatos russos com a campanha de Trump e sobre como o Kremlin havia vazado e-mails de democratas ao WikiLeaks, para prejudicar Hillary Clinton.
Mas as agências de inteligência tinham poucos dados sobre o uso russo do Facebook e outras plataformas sociais americanas, em parte devido às regras criadas para proteger a privacidade de comunicações entre americanos.
Encruzilhada ética
O esforço do Facebook para decodificar a campanha russa de influência também seguia adiante.
Em um blog post de 6.000 palavras em fevereiro, Zuckerberg anunciou que o Facebook precisava exercer um papel maior para controlar seu próprio lado escuro.
“É responsabilidade nossa”, ele escreveu, “amplificar os bons efeitos [da plataforma do Facebook] e mitigar os efeitos negativos – continuar a aumentar a diversidade ao mesmo tempo em que fortalecemos nosso entendimento comum, para que nossa comunidade possa gerar o maior impacto positivo sobre o mundo.”
A extensão do autoexame interno do Facebook ficou clara em abril, quando o diretor de segurança da empresa, Alex Stamos, co-escreveu um documento de 13 páginas detalhando os resultados de uma grande investigação que incluiu contribuições de especialistas de todos os setores da empresa, que, em alguns casos, construíram softwares novos voltados especificamente à detecção de propaganda política vinda do exterior.
“O Facebook se encontra numa encruzilhada crítica”, escreveu Stamos no documento, acrescentando que o esforço focou “ações de atores organizados (governos ou atores não oficiais) para distorcer a opinião política nacional ou internacional, mais frequentemente com vistas a alcançar um resultado estratégico e/ou geopolítico.” Ele descreveu como a empresa utilizara uma técnica conhecida como aprendizado de máquinas para criar softwares especializados de garimpagem de dados que são capazes de detectar padrões de comportamento – por exemplo, a postagem reiterada do mesmo conteúdo – que podem ser usadas por atores perversos.
A ferramenta de software recebeu um nome secreto, e o Facebook agora a está usando, além de outras, em campanhas eleitorais pelo mundo afora. Ela foi usada na eleição francesa em maio, quando ajudou a desabilitar 30 mil contas falsas, segundo a empresa. Foi testada novamente no domingo, quando os eleitores alemães foram às urnas. O Facebook se negou a divulgar o nome de código do software. Outra ferramenta desenvolvida recentemente mostra quando textos foram questionados por verificadores independentes de fatos.
O documento de Stamos não tocou no tema dos anúncios políticos, uma omissão que não passou despercebida pelos investigadores do Capitólio. O Facebook, uma empresa de US$495 bilhões, é a maior empresa mundial de publicidade online, depois do Google. Embora esse assunto não tenha sido mencionado explicitamente no documento, a equipe de Stamos fez buscas cuidadosas por evidências da aquisição de anúncios políticos por agentes estrangeiros, mas não as encontrou.
Algumas semanas após a eleição francesa, Warner foi à Califórnia para fazer uma visita pessoal ao Facebook. Foi uma oportunidade para o senador de questionar Stamos diretamente sobre se os russos haviam usado ferramentas da empresa para disseminar anúncios anti-Hillary Clinton em distritos chaves.
Stamos teria explicado a Warner a magnitude da dificuldade enfrentada pelo Facebook para policiar conteúdos políticos aparentemente legítimos.
Stamos disse ao senador que o Facebook não encontrara contas que usaram anúncios, mas concordou com ele que é provável que tivessem existido algumas. A dificuldade para o Facebook era identificá-las.
Finalmente, Stamos pediu ajuda a Warner. Pediu que, se as agências de inteligência americanas tivessem informações sobre a operação russa ou as “centrais de trolls” que ela utilizara para disseminar desinformações, as compartilhassem com o Facebook. Segundo pessoas envolvidas no assunto, a empresa ainda está à espera dessa colaboração.
Investigação
Uma equipe de engenheiros do Facebook passou meses vasculhando contas à procura de sinais de que elas teriam sido criadas por agentes a serviço do Kremlin. A tarefa era gigantesca.
A visita do senador Warner levou a empresa a fazer algumas mudanças em sua investigação interna. Em lugar de vasculhar levas de dados impossivelmente grandes, o Facebook decidiu concentrar sua atenção sobre um subconjunto de anúncios políticos.
Seus técnicos então procuraram indicadores que apontassem para vínculos entre esses anúncios e a Rússia. Para estreitar a busca ainda mais, o Facebook focalizou uma organização russa conhecida como a Internet Research Agency (Agência de Pesquisas na Internet) e que já foi identificada publicamente como central de trolls.
O avanço decisivo se deu dias depois de um porta-voz do Facebook ter dito à CNN, em 20 de julho: “Não encontramos evidências de que atores russos tenham comprado anúncios no Facebook ligados à eleição”.
Os argumentos do Facebook estavam prestes a mudar.
No início de agosto, a empresa já havia identificado mais de 3.000 anúncios publicados nos Estados Unidos entre 2015 e 2017 que tratavam de questões sociais e políticas e que parecem ter vindo de contas ligadas à Internet Research Agency.
O Facebook procurou a equipe de Warner para compartilhar a descoberta.
Investigadores do Congresso dizem que os fatos informados apenas arranham a superfície do que aconteceu realmente. Um deles descreveu o que o Facebook descobriu até agora como apenas “a ponta do iceberg”. Ninguém sabe ao certo quantas contas existem aí fora nem como impedir que mais delas sejam criadas para manipular a próxima eleição – e fazer a sociedade americana voltar-se contra ela mesma.
Facebook e a âcensura do bemâ https://t.co/x4KwVkrosd pic.twitter.com/evKPtaFZfW
â Ideias (@ideias_gp) September 17, 2017
