Algoritmos ditam o que você vê na rede. Mas quem manda neles?

No fim do mês passado, o Facebook viveu um episódio inusitado à lá “apertem os cintos, o piloto sumiu”. Três dias depois de tirar de humanos a atribuição de formular a seção “trending topics”, em que destaca posts e notícias consideradas relevantes para os usuários americanos, a rede social ofereceu em seu “cardápio” reportagens de gosto duvidoso e até mesmo falsas – incluindo o link de um vídeo em que um homem praticava “atos libidinosos” com um sanduíche do McDonald’s. Os algoritmos haviam assumido o controle.

A gafe chamou a atenção para os riscos de se colocar inteiramente na mão dos computadores – e seus programadores, diga-se de passagem – a responsabilidade em fornecer informação e conhecimento, em um mundo onde cada vez mais pessoas têm recorrido ao Google e Facebook para criarem sua visão de mundo. Não que as duas gigantes de tecnologia estejam só agora adotando essa estratégia: os algoritmos já estão há anos ditando o que você vê ou não na rede, mas agora querem interferir também no que você faz fora dela.

Leia mais sobre Inteligência Artificial

Em uma definição bem resumida mas espirituosa, o empreendedor e pesquisador do MIT Kevin Slavin pontua que os algoritmos “são basicamente a matemática que os computadores usam para tomar decisões”. Essas fórmulas matemáticas complexas também são aliadas importantes de serviços como o Netflix e Amazon, que sugerem filmes e produtos a você de acordo com suas ações pregressas.

A “era dos algoritmos”, assim, também pode ser vista como a “era da customização”, prevista com clareza há seis anos por Eric Schmidt, hoje CEO da Alphabet, que controla o Google. “Será muito difícil para as pessoas assistirem ou consumirem algo que não tenha, em algum sentido, sido feito sob medida para elas”, profetizou em uma entrevista de 2010.

Algoritmos começam a “invadir” alto escalão do mundo dos negócios

Algoritmo escolhe as roupas para você em novo aplicativo

Nem todos, obviamente, estão otimistas com essa nova era, até pelos desafios que ela traz a tiracolo. Algoritmos ainda não surgem de geração espontânea – eles são criados por cientistas e programadores, que possuem suas próprias crenças e convicções pessoais. E estes profissionais, por sua vez, respondem a grandes empresas, capazes de controlar o fluxo de informação na rede.

Uma equação perigosa e que escapa a grande parte dos usuários contumazes do Google e afins, alerta o escritor e jornalista sueco Andreas Ekström. “Essa ideia maravilhosamente sedutora de um resultado de pesquisa imparcial e limpo é, e provavelmente continuará sendo, um mito”, afirma.

“Será muito difícil para as pessoas assistirem ou consumirem algo que não tenha, em algum sentido, sido feito sob medida para elas.”

Eric Schmidt, profetizou o escritor e jornalista sueco em 2010.

Evolução às cegas

Essa preocupação se torna ainda mais urgente com a evolução do machine learning, em que computadores passam a ser programados para aprender, em vez de receberem centenas de linhas de código para fazerem apenas tarefas específicas. Abastecidas com uma enxurrada de dados e algoritmos, as máquinas fazem a “mágica” acontecer por conta própria – podendo, assim, criar roteiros de filmes, prever ocorrência de crimes e sugerir investimentos. O “porém” é que nem os próprios programadores conseguem compreender, hoje, toda a lógica por trás desse processo.

“Em machine learning, o engenheiro nunca sabe precisamente como o computador efetua suas tarefas. Essas operações são geralmente opacas e incompreensíveis. É, em outras palavras, uma caixa preta. E uma vez que essas caixas pretas assumam responsabilidade por mais e mais de nossas tarefas diárias digitais, elas vão mudar não só nossa relação com a tecnologia, mas também a maneira como pensamos sobre nós mesmos, nosso mundo e nosso lugar nele”, escreveu o jornalista Jason Tanz na edição de junho deste ano da revista Wired, considerada a “bíblia” da tecnologia.