“O que vemos agora no mundo é a autoridade migrando de humanos para algoritmos. Mais e mais decisões, sobre vida pessoal, questões econômicas, políticas, estão na verdade sendo tomadas por algoritmos”. Essa é a constatação do professor de história israelense Yuval Harari, autor de Sapiens e Homo Deus, durante um diálogo com o autor britânico Chris Anderson.
Yuval Harari prossegue o raciocínio:
“Se você pedir um empréstimo ao banco, há chances de o seu destino ser decidido por um algoritmo, e não por um ser humano. E a impressão geral é que talvez o Homo sapiens simplesmente perdeu o controle. O mundo é tão complicado, há tantos dados, as coisas estão mudando tão rapidamente, que essa coisa que evoluiu na savana africana dezenas de milhares de anos atrás, para lidar com um determinado ambiente, um determinado volume de informações e dados, simplesmente não pode lidar com as realidades do século 21, e a única coisa que pode ser capaz de lidar com isso é algoritmos para grandes dados. Assim, não surpreende transferirmos mais e mais autoridade aos algoritmos.”
De fato, os algoritmos são muito melhores do que as pessoas para gerenciar a carga crescente de informações, que aumenta exponencialmente para acompanhar a complexidade do mundo. Eles já fazem parte da rotina das pessoas, de diferentes maneiras. “Cada interação que mantemos em plataformas online, como Google, Facebook, Amazon, Uber, Netflix ou Apple já é supervisionada, senão totalmente controlada, por algoritmos”, diz o pesquisador Lior Zalmanson, PhD em gerenciamento de tecnologia e sistemas da informação.
Leia também: Afinal, as máquinas vão superar os humanos?
“Os algoritmos têm impacto no que você compra, nos filmes que vê e na informação que recebe”, acrescenta Thomas Gegenhuber, professor de transformação digital da Universidade Leuphana, da cidade alemã de Lüneburg. “Ter controle sobre esses mecanismos é ter um grande poder, porque os humanos sempre tomam decisões baseadas nas informações que recebem do ambiente”. Mas, afinal, o que são algoritmos?
Listas de ordens
São listas de comandos, que formam um passo-a-passo com um objetivo pré-estabelecido. A sequência de etapas precisa ser definida de uma maneira que não abra margem para interpretações e ambiguidades. Por exemplo: uma máquina pode ser instruída para preparar uma panela de arroz, mas é necessário determinar quantidades exatas dos ingredientes e tempos exatos para o cozimento. O comando deve definir, por exemplo, que o fogo seja desligado depois de 10 minutos; não adianta exigir que a máquina observe a água abaixar para desligar o fogão. Esta lista de comandos substitui a inteligência humana, mesmo que até certo ponto. Com a vantagem de que computadores processam quantidades muito maiores de informação.
O conceito de algoritmo surgiu no século IX, pelas mãos do matemático árabe Al Khowarizmi, e foi fundamental para o desenvolvimento de máquinas capazes de fazer contas mais rápido do que pessoas, incluindo ábacos, calculadoras e computadores. São conjuntos de algoritmos, executando tarefas em alta velocidade, que garantem o funcionamento de computadores, videogames, smartphones, aparelhos de GPS, softwares de análise de risco para concessão de empréstimos ou modelos de análise de clima.
Existem até mesmo algoritmos capazes de escrever novos algoritmos, de forma que máquinas são capazes de ensinar outras máquinas.
“Um dos motivos pelos quais usamos algoritmos é porque muitas das novas companhias de alcance global precisam gerenciar um grande número de pessoas, com eficiência e custo baixo”, diz Lior Zalmanson.
“Pense no Facebook: eles têm mais de um bilhão de usuários. Os algoritmos que os gerenciam são mais rápidos e não recebem salários mensais, não reclamam nem fazem greve”. Por enquanto, diz ele, ainda existem limitações. “Os algoritmos são muito dependentes de como foram programados, não costumam ser criativos e não sabem lidar com situações e condições inesperadas. Mas, com o passar do tempo, eles vão se tornar mais e mais espertos e muito melhores do que os humanos, em muitas outras tarefas”.
Aplicações múltiplas
Não só apenas as redes sociais e as grandes plataformas de internet que utilizam algoritmos. Empréstimos e financiamentos bancários também são concedidos com base neles, assim como os preços de planos de saúde e os cálculos implicados nas grandes cadeias logísticas. Em Wall Street, são os algoritmos que controlam 70% do fluxo, assim como diferentes prefeituras ao redor do mundo já recorrem a eles para gerenciar sistemas de semáforos.
No futuro próximo, as aplicações vão se multiplicar. Os carros autônomos precisam dos algoritmos para existir. Ao usá-los, a polícia pode melhorar o desempenho e investir recursos em regiões de maior risco. A gestão de orçamentos dos órgãos públicos pode melhorar exponencialmente, com a possibilidade de limitar o impacto da corrupção. A seleção dos melhores candidatos a uma vaga de trabalho também vai passar por esses critérios mais objetivos.
“Os algoritmos vão começar a afetar o desenho de nossas casas e cidades, as redes de transporte, o processamento de lixo e a linha de montagem de fábricas. Existe muita redundância no mundo, em resultado da maneira como os humanos conduzem os processos”, já escreveu Baratunde Thurston, do Massachusetts Institute of Technology (MIT) Media Lab.
Mas, para essse novo cenário se concretizar, os algoritmos ainda precisam passar por melhorias. Um caso emblemático foi protagonizado pela Microsoft. Em 2016, a empresa desenvolveu um robô chamado Tay, para responder aos usuários do Twitter. A proposta era que Tay aprendesse na medida em que interagisse com os posts. O resultado foi catastrófico: depois de poucas horas, Tay estava disparando tuítes racistas e sexistas.
Quando os usuários usavam o comando “repeat after me” (“repita depois de mim”), e na sequência, escreviam uma mensagem qualquer, o robô fazia precisamente isso: postava em seu próprio nome a mensagem do usuário, por mais absurda que fosse. Mas, em outros casos, foi o próprio Tay que postou frases sozinho – em uma delas, dizia que o feminismo é como um câncer.
O Facebook teve outra dificuldade: ao substituir editores humanos por robôs, descobriu que os algoritmos não sabem diferenciar notícias reais de fake news.
Agência reguladora
Algoritmos são eficientes e rápidos. Sem eles, seria muito mais caro e lento gerenciar uma série de sistemas que fazem parte de nossas vidas. Mas o que acontece quando um algoritmo passa a gerar outros algoritmos, que por sua vez podem ser usados em carros autônomos ou robôs de guerra? O risco não é alto demais? É, sim.
“Se os algoritmos gerenciam nossas vidas, nós, como sociedade, precisamos questionar suas ações, seus métodos e seus resultados”, responde Lior Zalmanson.
“Uma das questões mais cruciais do momento é a transparência. Temos o direito de saber como foram programados os algoritmos que lidam com nossos dados pessoais, mesmo quando eles pertencem a companhias privadas, como o Facebook ou o Google”.
O professor Thomas Gegenhuber sugere uma medida concreta: “deveríamos pensar em criar uma agência reguladora especial, com poder para aprovar os algoritmos desenvolvidos pelas organizações”. Ele não está sozinho. Muitos outros pesquisadores vêm pedindo que o governo americano crie uma agência reguladora. “Vai demorar um tempo para nós alcançarmos o conhecimento necessário para conhecer e direcionar o poder dos algoritmos. Até lá, não sabemos se eles estão sendo aplicados de forma segura”, já opinou, por exemplo, Chris Kutarna, professor da Oxford Martin School.
Baratunde Thurston, por sua vez, alertou para um problema: as regras estabelecidas para os algoritmos podem ser ditadas por humanos, o que pode aumentar exponencialmente o preconceito: “Os produtores de algoritmos e as pessoas que coletam dados poderão esquecer de testar sistemas de reconhecimento de imagem em peles escuras. Estamos supondo que as máquinas são mais espertas, mas vamos descobrir que elas são tão burras quanto nós, apenas melhores em disfarçar”.
E mais: em janeiro de 2017, o instituto Future of Life publicou uma lista de princípios da inteligência artificial, com mais de 1600 signatários, incluindo Elon Musk e Steven Hawking. Eles não têm dúvidas: a humanidade vai precisar controlar de perto os algoritmos.
