Ouça este conteúdo
A derrubada de postagens por redes sociais geralmente pega fogo no debate político. Em período eleitoral, a discussão esquenta ainda mais. Como tudo o que envolve paixões, aquilo de mais impacto real na vida das pessoas acaba ficando em segundo plano. Temos discutido, por exemplo, se tal vídeo de tal político deve ou não ficar no ar. Falamos muito sobre os xingamentos permitidos ou não. Tudo perfumaria. O ponto principal e que fica soterrado pelas paixões é quem deve ter autoridade para decidir o que faz parte ou não do debate público.
Quando falamos de liberdade de expressão e de quem pode julgar casos específicos, fica a impressão de que esse é o ponto central e a maior das consequências seria a interdição do debate. Não é. Um dos grandes desafios da realidade digital é a exploração sexual infantil. A divulgação e comercialização de imagens de pedofilia tira o sono das empresas e governos ao redor do mundo.
Com a tecnologia, esse mercado criminoso ganhou uma janela de oportunidade que se tenta fechar a todo custo. Não existe tolerância para esse tipo de crime em nenhuma cultura. Embora leis sejam nacionais, é um dos poucos consensos internacionais.
A grande questão é como conter.
Para prevenir e enfrentar pedófilos online, é preciso investir pesado em tecnologia, principalmente inteligência artificial. Todas as Big Techs têm feito isso.
São questões absolutamente graves e esperar uma persecução penal é quase sempre ineficiente. Imagens devem ser derrubadas, responsáveis identificados e prováveis abusos interrompidos com a maior rapidez possível. Por um lado, a tecnologia aumenta as possibilidades criminosas. Por outro, também aumenta a rastreabilidade dos criminosos, a possibilidade de desbaratar o crime e punir os responsáveis.
A questão é como operacionalizar isso e criar processos eficientes. Na nossa cabeça, temos muito presente a realidade da denúncia. Usuários denunciam à plataforma ou às autoridades quando vêem alguma atividade suspeita. Isso funciona bem, na realidade, para outra atividade, a de criar perfis baseados em militância.
O usuário se une a uma denúncia coletiva sobre algo. Não é tão eficiente para punir crimes ou levar adiante as denúncias, mas é ótimo para fazer com que as pessoas se sintam parte daquele grupo e o apóiem.
Para prevenir e enfrentar pedófilos online, é preciso investir pesado em tecnologia, principalmente inteligência artificial. Todas as Big Techs têm feito isso. Há duas grandes ferramentas que identificam, por meio de inteligência artificial, imagens de pedofilia que circulem nas bases de dados das Big Techs.
A primeira, criada pelo Windows, é a PhotoDNA. Trata-se de uma base de dados gigantesca onde são adicionadas imagens já conhecidas de pornografia infantil com um marcador único. Se alguém tentar repostar ou compartilhar uma dessas imagens já anteriormente identificadas – geralmente por instituições públicas, como polícia – a inteligência artificial da plataforma já pode tomar a atitude de impedir, interromper e identificar o responsável.
O Google desenvolveu uma ferramenta que opera de forma semelhante, mas está um passo além. Com base em aprendizado de máquina, é capaz de detectar imagens de pedofilia novas, que não fazem parte ainda das bases de dados. Até aqui, temos praticamente um milagre da tecnologia. Infelizmente, como tudo na vida, tem dois lados.
O que poderia dar errado com uma tecnologia de ponta feita somente para o bem e que tem na mira o tipo de criminoso mais odiento? O falso positivo.
Imagine que seu filho pequeno está com uma enfermidade qualquer, uma alergia. Nos dias de hoje, a gente já manda a foto por mensagem para o pediatra, adianta a consulta. É algo que faz parte do cotidiano dos pais e médicos. Aliás, eu faço parte de grupos de mães em várias redes sociais. É comum que, sobretudo as de primeira viagem, compartilhem fotos de alergias com as demais. É algo também benéfico, que tanto ajuda a buscar tratamento quanto acalma a família.
Nos grupos de família e entre familiares, também é uma prática comum. A gente pede ajuda à mãe, à tia e à avó assim. Mandamos fotos, vídeos, fazemos chamadas. Estamos, de repente, juntos. Tratamos da questão como família graças à tecnologia. O problema é que esses dois mundos podem se confundir e gerar consequências nefastas e inesquecíveis para cidadãos de bem. Infelizmente, já ocorreu. Não se sabe ainda quantos são os casos reais.
Dois deles foram noticiados esta semana, um pelo New York Times e outro pelo El País.
Mark, engenheiro de São Francisco, nos Estados Unidos, estava cuidando do filhinho pequeno. O menino tinha uma infecção no pênis e já havia passado pelo pediatra. Ele tirou algumas fotos da evolução do tratamento, usando um celular Android. Mandou essas fotos ao IPhone da mulher dele. Dias depois, todas suas contas do Google foram suspensas por violação grave das regras da plataforma.
A razão indicada era suspeita de exploração e abuso infantil. Mark perdeu sua conta de email, tudo o que estava armazenado nela, todos seus contatos, suas fotos e sua agenda. O Google denunciou o engenheiro à polícia por pedofilia. Ele foi formalmente investigado por abuso infantil em fevereiro de 2021. Rapidamente, o caso foi encerrado porque a polícia percebeu o engano. Não se tratava de um caso de pedofilia.
Estamos diante de um problema em que cidadãos de bem pagam caro pelas tentativas de empresas de enfrentar algo que cabe ao poder público.
No entanto, os dados não foram devolvidos ao engenheiro. O Google alega que, entre as imagens, havia também um vídeo de uma mulher nua com um bebê. Mark disse ao New York Times que não se lembra exatamente das circunstâncias, mas é possível que tenha filmado a esposa amamentando em algum momento.
O fato é que ele teve prejuízos reais, profissionais e pessoais, sem que tenha feito nada ilegal. Aliás, sem que tenha feito nada nem de errado ou reprovável.
Outro pai, do Texas, conta uma história muito semelhante. De repente, sem entender as razões, teve todas suas atividades do Google suspensas com um aviso de suspeita de exploração sexual infantil ou pedofilia. Cassio relatou na plataforma Quora seu périplo para recuperar seus dados, o que não foi possível. Não entendeu exatamente por que foi suspenso e seus apelos tiveram resposta negativa.
Relata que, naquele período, seu filho estava com uma infecção em tratamento nas partes íntimas e enviou fotos da evolução ao pediatra. Ele também não conseguiu recuperar seus dados. Diz que vai continuar usando os serviços do Google porque não temos muito como fugir disso.
Escolher outra plataforma, solução que frequentemente é aventada, seria uma realidade caso houvesse livre mercado na área das Big Techs. Não há. Somos reféns.
O
pai disse que aprendeu 4 coisas com a experiência:
1. Não use o upload automático do Google
Fotos.
2. É impossível falar com um humano no Google. Mesmo se você estiver disposto a pagar o nível de suporte mais alto, a única maneira de se inscrever é através de sua conta (que está desativada no meu caso).
3. Tenha cópias de seus dados. Não consigo acessar o recurso "baixar meus dados" que eles afirmam ter, porque minha conta está desativada. Então eu perdi mais de uma década de e-mails da universidade, para minha carreira profissional. Felizmente, eu tinha backups em outros lugares para fotos e documentos.
4. Alterar e-mails é difícil. Ir a todos os bancos, corretoras, compras on-line, sistemas médicos, companhias aéreas, hipotecas, etc. para atualizar seu e-mail é muito demorado e difícil de provar que você é você. Felizmente, diferente do Google, sempre há uma maneira de falar com um humano e fornecer qualquer coisa necessária para provar.
Segundo o New York Times, somente no ano de 2021, a ferramenta do Google que detecta possíveis casos de pedofilia derrubou 4.260 contas. Não se sabe quantas delas são de criminosos e quantas são falsos positivos. Estamos diante de um problema em que cidadãos de bem pagam caro pelas tentativas de empresas de enfrentar algo que cabe ao poder público.
Sem o apoio dessas empresas, no entanto, o poder público não tem a eficiência que deseja no combate à criminalidade, como casos de pedofilia. São dores do crescimento e o melhor a fazer é enfrentar. O trabalho conjunto entre Big Techs e governos no enfrentamento da criminalidade digital parece ser uma realidade já estabelecida. O ponto sensível está em fazer com que essas empresas também respeitem o direito dos cidadãos.
