Abusos sexuais, drogas, e saúde mental: redes sociais são questionadas pelos danos à infância

"Senhor Zuckerberg, suas mãos estão manchadas de sangue. Seu produto mata pessoas". Assim começou de forma contundente a manhã de 31 de janeiro, quando um grupo de altos executivos das redes sociais depôs perante o Comitê Judicial do Senado dos Estados Unidos sobre os riscos que seus produtos representam para os mais jovens.

Durante o depoimento, os CEOs da Meta, TikTok, Snap, Discord e X (anteriormente conhecido como Twitter) foram bombardeados com perguntas pelos senadores, que não esconderam sua posição sobre esse assunto.

Ao longo das três horas da sessão, ficou claro que as aplicações podem se tornar um beco sem saída onde as vidas das crianças são destruídas.

Na plateia estavam pais de adolescentes que se suicidaram devido à pornografia de vingança distribuída em redes, que foram vítimas de abuso sexual nas plataformas ou que compraram drogas por meio delas.

Nesta audiência estão as chaves para entender como a sociedade está mudando sua percepção das redes sociais, como as plataformas estão tentando lidar com essa crise de reputação e quais são os obstáculos para a proteção de menores na internet.

O abuso sexual infantil no centro do debate

Todas as declarações giraram em torno de uma questão fundamental: a responsabilidade das empresas de tecnologia nos casos de abuso sexual infantil que ocorrem em suas plataformas ou com sua colaboração, e seu fracasso em interromper a distribuição de pornografia infantil.

"Discord foi usado para seduzir, sequestrar e abusar de crianças. O Instagram, da Meta, ajudou a conectar e promover uma rede de pedófilos. Mensagens que desaparecem do Snapchat foram usadas por criminosos que extorquem financeiramente jovens vítimas. TikTok tornou-se a plataforma preferida para predadores que procuram, atraem e seduzem crianças, e a prevalência de material de abuso sexual infantil no X aumentou drasticamente à medida que a empresa reduziu drasticamente sua equipe de segurança", detalhou Dick Durbin, presidente do comitê, em sua declaração de abertura. O Facebook, por sua vez, denunciou 73,3 milhões de publicações na categoria de "nudez infantil e exploração sexual" nos três primeiros trimestres de 2022.

O problema é evidente. Mas então, por que é tão difícil de resolver?

A imunidade das empresas de tecnologia, o principal obstáculo para a responsabilidade

O principal problema é que não há uma legislação que torne as empresas de tecnologia responsáveis pelo conteúdo distribuído em suas plataformas.

Na verdade, o que existe é uma lei que as protege. Na seção 230 da Lei de Decência das Comunicações dos Estados Unidos, as empresas de tecnologia encontraram um guarda-chuva sob o qual se abrigar quando surgem denúncias.

As plataformas têm políticas internas — Discord e X, por exemplo, permitem conteúdo pornográfico em suas plataformas — e contam com equipes de moderação que removem o conteúdo que viola essas políticas.

No entanto, elas não assumem a responsabilidade pela distribuição de conteúdo prejudicial. O usuário que compartilha é considerado culpado.

Portanto, a obrigação das redes sociais se limita à boa vontade delas, e não podem ser responsabilizadas pela forma como seus usuários decidem agir ou usar a rede social.

A criptografia, um problema de difícil solução

Outro problema é a criptografia, o sistema usado pela maioria das plataformas de mensagens instantâneas para proteger a privacidade das comunicações dos usuários. É um sistema seguro, mas também um paraíso para os predadores que entram em contato com menores por meio desses serviços.

A grande pergunta é: as redes sociais usadas por menores devem ter criptografia?

No Discord, por exemplo, não há criptografia de ponta a ponta. Outras redes sociais estão optando por proibir a possibilidade de enviar mensagens diretas para menores, ou permitir que apenas seus contatos o façam.

As plataformas realmente querem proteger as crianças?

Várias vezes durante o interrogatório, as plataformas se defenderam contra as estatísticas de abuso, destacando suas políticas, medidas de proteção e ferramentas de controle parental.

No entanto, a verdadeira questão é se as empresas de tecnologia realmente estão fazendo tudo o que podem. Isso é difícil de acreditar quando surgem relatórios internos da Meta revelando que a empresa estava ciente dos danos que estava causando aos adolescentes, ou o quão interessante era atrair o público pré-adolescente como futuros consumidores. Emails de funcionários da Meta indicavam que a falta de investimento por parte da empresa estava prejudicando a proteção dos menores.

Também são preocupantes casos como os ocorridos no X, nos quais um conteúdo de abuso sexual infantil é denunciado inúmeras vezes e, no entanto, continua circulando por meses, arruinando a vida da vítima.

Saúde mental, privacidade, propaganda política e drogas

Embora o foco da conversa fosse o abuso sexual infantil, em sua declaração inicial, Zuckerberg alegou que não havia evidências científicas conclusivas que relacionassem o uso de redes sociais ao agravamento da saúde mental dos adolescentes.

Foi uma decisão de comunicação um tanto equivocada, pois abriu espaço para que ele fosse questionado sobre o impacto de suas plataformas nos menores.

"Se você acredita que o Instagram não está prejudicando as meninas, não deveria estar no comando", ouviu Zuckerberg.

Outra questão discutida foi a sempre polêmica relação do TikTok com a China. A rede social continua sendo acusada de compartilhar dados de usuários americanos, algo que a plataforma negou repetidamente.

Recentemente, o Wall Street Journal revelou que o TikTok ainda está lutando para impedir que os funcionários baseados na China acessem os dados dos usuários americanos. Shou Zi Chew, CEO do TikTok, negou a veracidade da informação durante a audiência. Ele também rejeitou as acusações de que o TikTok censura certas questões em benefício dos interesses políticos da China.

Por outro lado, durante o interrogatório, foi destacado que 30% das pessoas que estão obtendo fentanil o estão fazendo por meio dessas plataformas. Especificamente, são conhecidos casos de vários adolescentes que morreram após adquirir pílulas no Snapchat.

Mais transparência

As redes sociais são culpadas por tudo isso? Os membros do comitê apontaram que o design das plataformas, seu fracasso em investir em segurança e a busca constante pela interação e pelos lucros acima da segurança colocaram as crianças em sério risco.

O comitê lembrou que as redes sociais arrecadaram 11 bilhões de dólares em 2022 apenas com publicidade direcionada a adolescentes e afirmou que, se as plataformas continuarem lucrando com os menores, elas devem ser mais transparentes sobre o funcionamento de seus produtos.

Eles exigiram especificamente conhecer o funcionamento dos algoritmos e suas consequências, a quantidade total de conteúdo que viola as políticas das plataformas e os casos de abuso cometidos por meio das redes.

O papel dos pais e o futuro das redes sociais

Por fim, a conversa mais uma vez destacou o papel dos pais. As plataformas pedem que as medidas visem mais ajudá-los a controlar o que seus filhos veem do que carregar neles essa responsabilidade.

O que está claro é que, graças ao trabalho dos pais que continuam pressionando, as plataformas não podem mais ignorar o problema.

Do comitê, eles foram encorajados a continuar com sua campanha para obter mudanças reais. A posição dos senadores é clara: "Nada mudará até que as portas dos tribunais estejam abertas para as vítimas das redes sociais".

A ideia é que a imunidade que as redes sociais desfrutaram até agora possa ser encerrada. Enfrentando a possibilidade de ter que arcar com as consequências (pelo menos em termos de reputação) do que acontece em suas plataformas com os adolescentes, é provável que as empresas optem por adotar medidas mais concretas.

©2024 Aceprensa. Publicado com permissão. Original em espanhol: “Sr. Zuckerberg, si cree que Instagram no está haciendo daño a las niñas, no debería estar al mando”