Funcionários começam a pressionar chefes sobre o custo social do que é criado no setor de tecnologia

Não faz muito tempo, o cientista de pesquisa do Google, Jack Poulson, ficou alarmado com os relatórios que diziam que a companhia estava desenvolvendo um mecanismo de busca para a China que ia censurar conteúdo em nome do governo.

Ele trabalha com tecnologias de busca, mas não sabia da existência do produto, que foi chamado de Dragonfly. Assim, em uma reunião em setembro com Jeff Dean, chefe de inteligência artificial da empresa, Poulson perguntou se o Google planejava levá-lo adiante e se seu trabalho contribuiria para a censura e vigilância na China.

De acordo com Poulson, Dean disse que o Google cumpriu os pedidos de vigilância do governo dos Estados Unidos e perguntou retoricamente se a empresa deveria deixar o mercado americano em protesto. Dean também compartilhou um rascunho de um e-mail da empresa que dizia: “Não vamos e não devemos fornecer cem por cento de transparência para que cada funcionário respeite nossos compromissos com a confidencialidade do cliente e nem daremos à nossa equipe de produtos a liberdade de inovar”.

No dia seguinte, Poulson pediu demissão. Dean não respondeu ao nosso contato e o Google se recusou a comentar.

LEIA TAMBÉM: Brasileira Stone capta US$ 1,5 bilhão em estreia na Bolsa de tecnologia Nasdaq

Em todos os níveis da indústria de tecnologia, funcionários comuns estão exigindo uma compreensão maior de como suas empresas estão implantando a tecnologia que eles desenvolvem. No Google, na Amazon, na Microsoft e na Salesforce, bem como em startups tecnológicas, engenheiros e técnicos vêm questionando se seus produtos estão sendo usados para vigilância na China, por exemplo, ou para projetos militares nos Estados Unidos ou em outros lugares.

É uma mudança em relação ao passado, quando a mão de obra do Vale do Silício em geral desenvolvia produtos com pouco questionamento sobre os custos sociais. É também um sinal de como algumas empresas de tecnologia, que cresceram atendendo a consumidores e empresas, estão cada vez mais aceitando trabalhar para o governo. E a mudança coincide com as preocupações no Vale do Silício sobre as políticas da administração Trump e do maior papel da tecnologia no governo.

“Você pode pensar que está desenvolvendo tecnologia para um propósito e aí descobre que não é bem assim”, disse Laura Nolan, 38 anos, engenheira de software que deixou o Google em junho por causa do envolvimento da empresa no Projeto Maven, uma tentativa para construir inteligência artificial para o Departamento de Defesa dos Estados Unidos que poderia ser usada em ataques de drones.

Aumento da tensão

Tudo isso aumentou as tensões entre funcionários e gerentes do setor. Nos últimos meses, os empregados do Google, da Microsoft e da Amazon assinaram petições e protestaram com executivos por causa da forma como algumas das tecnologias que ajudaram a criar estão sendo usadas. Em empresas de menor porte, os engenheiros começaram a fazer mais perguntas sobre ética.

E é provável que a mudança dure: alguns estudantes de Engenharia disseram que estão exigindo mais respostas e fazendo perguntas semelhantes, mesmo antes de entrar na força de trabalho.

“O que as pessoas estão procurando, e não apenas os funcionários, é um pouco de clareza. Existem princípios que se aplicam? Mesmo se você não concordar com a decisão tomada, se entender o pensamento por trás dela, ajuda muito”, disse Frank Shaw, porta-voz da Microsoft.

A Amazon não respondeu a um pedido de comentário.

A falta de informações sobre os propósitos dos projetos ficou bem evidente há pouco tempo na Clarifai, uma startup de inteligência artificial em Nova York.

No ano passado, uma pequena equipe de engenheiros começou a trabalhar em um projeto em uma sala com acesso restrito no escritório no centro da cidade, segundo três pessoas com conhecimento do assunto que não quiseram ser identificadas por medo de retaliação. Elas dizem que as janelas eram cobertas de papel e os empregados chamavam o quarto de “a câmara dos segredos”, uma referência ao segundo livro da série Harry Potter. Mesmo os oito engenheiros e pesquisadores que trabalhavam na sala não perceberam inteiramente a natureza do projeto.

Quando os funcionários perguntavam sobre o projeto em reuniões, o executivo-chefe da Clarifai, Matt Zeiler, dizia que era um projeto governamental relacionado à “análise lógica” ou à “vigilância”, e que “salvaria vidas”.

Depois que leram os documentos postados nos sistemas internos, ficou claro que a empresa tinha ganhado um contrato para o projeto Maven e que estavam criando algo para o Departamento de Defesa. Um engenheiro desistiu do projeto imediatamente após uma reunião com o órgão, onde matar era algo discutido em termos francos, de acordo com os relatos.

Um porta-voz da Clarifai disse que, no início dos trabalhos, a empresa se sentou com os funcionários escolhidos para informá-los sobre a natureza do projeto, e um deles decidiu sair. “Todos os membros da equipe do projeto Maven da Clarifai concordaram em trabalhar nele, e as duas pessoas que optaram por não participar foram direcionadas para outras funções”, disse o porta-voz.

Falta clareza

Poulson, cujo trabalho envolvia incorporar diversas línguas na busca do Google, disse que inicialmente não achava que sua pesquisa poderia estar envolvida no Dragonfly — até que percebeu que o chinês havia sido adicionado a uma lista de idiomas de seu projeto.

“A maioria das pessoas não sabe o escopo holístico do que estão criando. Você não sabe aonde está indo, a menos que tenha experiência suficiente”, disse Poulson, 32, que trabalhou no Google por mais de dois anos.

As dificuldades de saber o que as empresas estão fazendo com as tecnologias é agravada porque os engenheiros de grandes companhias muitas vezes desenvolvem infraestrutura — como algoritmos, bancos de dados e até mesmo hardware — que é incluída em quase todos os produtos oferecidos. No Google, por exemplo, um sistema de armazenamento chamado Colossus é usado nas buscas, no Google Maps e no Gmail.

“Seria muito difícil para a maioria dos engenheiros do Google ter certeza de que seu trabalho não contribuiu para esses projetos de alguma forma. Para mim, se a organização está fazendo algo que acho eticamente inaceitável, então estou sendo cúmplice”, disse Nolan, que ajudou a manter os sistemas do Google funcionando.

Porém, os executivos das empresas de tecnologia afirmaram que a transparência total não é possível.

“Sempre tivemos projetos confidenciais. Acho que o que acontecia quando a empresa era menor é que havia uma chance maior de saber das coisas. Há vários momentos nos estágios exploratórios nos quais as equipes estão debatendo e fazendo as coisas, por isso, às vezes, ser totalmente transparente nessa fase pode causar problemas”, disse Sundar Pichai, executivo-chefe do Google, em uma reunião de pessoal em agosto, de acordo com uma transcrição fornecida ao New York Times.

Tais políticas repercutiram além das companhias de tecnologia. Em junho, mais de cem alunos de Stanford, do Instituto de Tecnologia de Massachusetts (MIT, na sigla em inglês) e de outras faculdades de ponta assinaram um compromisso dizendo que iam recusar entrevistas de emprego no Google, a menos que a empresa cancelasse o contrato do projeto Maven. (No mesmo mês, o Google disse que não ia renovar o contrato.)

LEIA TAMBÉM: Os 5 mitos sobre startups

“Somos alunos que se opõem à transformação de tecnologia em armas por empresas como o Google e a Microsoft. Nosso sonho é ser uma força positiva no mundo. Nós nos recusamos a ser cúmplices desse abuso de poder”, afirmou o texto.

Alex Ahmed, doutorando de Ciência da Computação na Universidade Northeastern, em Boston, disse que organizou uma discussão entre os alunos no campus para debater se deveriam trabalhar para empresas de tecnologia que tomavam decisões que eles acreditavam ser antiéticas.

Ahmed, 29, disse: “Não temos um curso de ética. Não temos educação política. É impossível fazermos isso a menos que nós mesmos decidamos conversar sobre o assunto”.