Ministros revelam ignorância tecnológica em sessões do STF

O Supremo Tribunal Federal (STF) está julgando desde o final de novembro se o artigo 19 do Marco Civil da Internet, que trata da responsabilidade das redes sociais sobre conteúdos publicados por seus usuários, é constitucional ou não. Nas sessões, alguns dos ministros têm demonstrado falta de conhecimento sobre as ferramentas tecnológicas que são o próprio foco do julgamento.

Declarações que evidenciam a ignorância dos membros do STF viralizaram nas redes sociais recentemente. A falta de familiaridade com as ferramentas e o caráter superficial e confuso de alguns diálogos nas sessões suscitaram ironias e, ao mesmo tempo, preocupação com o fato de que o destino das redes sociais no Brasil esteja nas mãos de pessoas com tão pouco domínio do assunto.

Em um dos trechos do julgamento que mais circulou, os ministros conversavam sobre a viralização de conteúdos nas redes e misturaram diversos conceitos de forma desconexa e imprecisa:

Luiz Fux: Quem reproduz essas informações todas é o robô. Nós estamos tratando de liberdade de expressão de pessoas quando, na verdade, no fundo, o grande protagonista dessa circulação de todas essas informações – ou falsas ou verdadeiras ou dirigidas para as bolhas que eles próprios criam – é a inteligência artificial. A culpa é do robô.
Dias Toffoli: É a mão invisível da inteligência artificial. Muito se fala da mão invisível do mercado. Mas existe a mão invisível da inteligência.
Luiz Fux: A gente tem que regular as máquinas…
Flávio Dino: A mão é invisível, mas o cérebro é visível. E os lucros mais ainda. São as maiores empresas do mundo…

O especialista em redes e cibersegurança Filipe Augusto da Luz Lemos, professor pesquisador por cortesia da Universidade de Syracuse, diz que a conversa entre os ministros "sugere uma falta de clareza sobre conceitos relacionados à tecnologia, especialmente à inteligência artificial" e que "os ministros deveriam buscar o auxílio de peritos especializados". Sem isso, diz ele, há "o risco de decisões serem tomadas a partir de discursos vazios ou baseados em conceitos equivocados".

"A inteligência artificial, ao contrário do que sugerem, não é uma entidade independente ou misteriosa. Trata-se de ferramentas criadas e operadas por pessoas, que funcionam a partir de dados e algoritmos desenvolvidos por programadores. Portanto, falar em 'regular as máquinas' ou em 'mão invisível' não apenas desvia o foco, mas também evidencia a falta de apoio de profissionais capacitados", comenta.

Em outra ocasião, o ministro Flávio Dino, em tom jocoso mas com certo grau de seriedade, acusou uma inteligência artificial de mentir sobre sua vida conjugal. "Deparei com informações sobre a minha própria pessoa dessas ferramentas de inteligência artificial que são totalmente impertinentes. Por exemplo, eu sou casado com outra moça, segundo uma dessas ferramentas. Para mim, nada deletério no caso concreto, mas pode gerar alguns transtornos para os respectivos cônjuges, para a minha esposa e, claro, para o marido da moça. Então, quem responde por isso? Nesse caso, nada tem de injurioso, mas é uma informação falsa que pode gerar problemas na intimidade e na privacidade", disse.

Lemos esclarece que é equivocado falar em "informação falsa" no contexto de uma resposta gerada por inteligência artificial, já que ferramentas do tipo "não têm consciência nem intenção ao gerar respostas". "Elas simplesmente analisam padrões em grandes volumes de dados e produzem resultados com base no que foi aprendido", explica. Além disso, lembra ele, "os próprios modelos alertam que podem cometer erros e recomendam que as informações fornecidas sejam verificadas".

"Eu mesmo já me pesquisei em uma dessas ferramentas e descobri que, segundo ela, eu era um jogador de futebol que já jogou no Botafogo. A confusão aconteceu porque existia outro 'Filipe Lemos' nos dados disponíveis, que realmente era jogador de futebol, mas não havia qualquer informação sobre Filipe Augusto da Luz Lemos, que é o meu nome completo. O sistema, então, fez uma associação incorreta", relata. "Após corrigir a ferramenta e fornecer a informação correta, ela aprendeu quem eu sou e nunca mais cometeu esse erro. É justamente daí que vem o termo 'aprendizado de máquina': esses modelos estão sempre aprendendo com novos dados, ajustando suas respostas e se tornando mais completos e precisos com o tempo. Esses sistemas não criam 'informações falsas'", acrescenta.

Em outra ocasião do julgamento no STF, o ministro Alexandre de Moraes afirmou que as redes sociais não controlam perfis inautênticos porque "falta boa vontade", e porque faz parte do desenho do negócio delas "ter mais robôs, ter mais ofensa, mais discurso de ódio, monetizar e ganhar mais dinheiro". Para Lemos, as suposições de Moraes "não condizem com a lógica dessas plataformas".

"Como qualquer empresa, as redes sociais dependem de um ambiente saudável e acolhedor para manter os usuários engajados. Se compararmos com uma loja física, ninguém continuaria frequentando um lugar onde os funcionários ofendem os clientes ou incentivam outros a atacá-los. Esse tipo de ambiente não gera lucro – pelo contrário, afasta as pessoas", comenta.

Sobre os problemas relacionados às contas inautênticas, o especialista diz que "as plataformas digitais têm plena consciência disso e já investem em mecanismos para combater perfis inautênticos e conteúdos ofensivos". "Elas removem contas falsas, recebem denúncias dos usuários e utilizam inteligência artificial para aprimorar constantemente seus processos de moderação. O Facebook e o Instagram, por exemplo, frequentemente incentivam experiências positivas, como destacar boas memórias ou promover conteúdos que reforçam o bem-estar do usuário", diz.

Para Lemos, o que o ministro do STF descreve reflete uma experiência pessoal que é comum a qualquer pessoa com visibilidade pública na internet. "A exposição a críticas e ataques, infelizmente, faz parte do ambiente online", diz. "A amplificação dessas vozes negativas muitas vezes ocorre porque os próprios usuários lhes dão atenção desproporcional", acrescenta.

É papo de boteco, com cerveja estragada, diz jurista

Para o jurista André Marsiglia, especialista em liberdade de expressão, as falas dos ministros demonstram ignorância sobre o tema em julgamento no STF. "Acreditar que a culpa é do robô é o mesmo que querer punir o ator pela fala do personagem. Além disso, expõe-se uma visão ideológica, de base socialista, que não deveria existir como premissa em um julgamento desse nível, de que quem lucra e prospera está necessariamente mal intencionado. É papo de boteco, com cerveja estragada", comenta.

Marsiglia diz que as discussões dos magistrados sobre liberdade de expressão têm uma pretensão pueril de alcançar "a mentira e a verdade puras, cristalinas". "A liberdade de expressão deve absorver imprecisões, equívocos, como partes da construção do debate. A visão da Corte inviabiliza a liberdade de expressão e a própria inteligência artificial, que aprende a acertar errando. A visão dogmática do STF é um retrocesso e um desserviço à visão clássica das liberdades individuais e à visão moderna sobre tecnologias", afirma.

Por ignorância tecnológica, STF já misturou abusos com trapalhadas

Em ocasiões recentes, a ignorância tecnológica levou o STF a cometer trapalhadas em meio aos abusos cometidos contra a liberdade de expressão nas redes.

Quando determinou a suspensão do X, Alexandre de Moraes impediu o uso de redes privadas virtuais (VPNs) para acessar a plataforma, impondo multas aos usuários que tentassem contornar restrições com essas ferramentas. No entanto, pela própria natureza técnica das VPNs, a fiscalização do uso da ferramenta é praticamente inviável, tornando a ordem pouco eficaz.

Moraes também ordenou que Google e Apple retirassem o acesso a aplicativos de VPN de suas lojas de apps, o que revela ignorância sobre a utilidade das VPNs, que vai muito além de burlar censuras de governos autoritários: em muitos casos, elas são imprescindíveis até para o funcionamento de empresas, ao protegerem dados sensíveis e permitirem acesso remoto seguro para funcionários.

Nos últimos anos, os ministros também têm revelado um entendimento pobre da dinâmica das redes sociais e da cultura digital. Em inquéritos que o STF conduz há anos, eles têm fechado o cerco contra a liberdade de expressão de usuários de redes sociais alegando que eles integram "milícias digitais", responsáveis por ataques supostamente coordenados contra instituições. As investigações – não se sabe se por mera conveniência ou também por ignorância – frequentemente desconsideram a dinâmica orgânica das redes sociais, em que críticas e comportamentos coletivos surgem de forma espontânea e descentralizada.