Em 9 de março deste ano, um software do Facebook registrou algo suspeito. Um homem com pouco mais de 30 anos estava conversando com uma menina de 13 anos do sul da Flórida, e planejava um encontro com ela na saída do colégio, no dia seguinte.
A extensa mas pouco conhecida tecnologia do Facebook para filtrar conversas e mensagens em busca de atividade criminosa automaticamente encaminhou um alerta sobre o diálogo a funcionários da companhia, que rapidamente chamaram a polícia.
Policiais assumiram o controle do computador da adolescente e detiveram o homem no dia seguinte, diz Jeffrey Duncan, agente do departamento de polícia da Flórida. O suposto criminoso se declarou inocente das múltiplas acusações de solicitar favores sexuais a uma menor de idade.
"A maneira e a terminologia do contato deles conosco nos propiciou a capacidade de reagir o mais rápido possível", disse um dos diversos policiais entrevistados, que elogiaram o Facebook por dar origem a esse tipo de investigação.
O Facebook está entre as diversas empresas que empregam uma combinação de novas tecnologias e vigilância humana para conter a ação dos predadores sexuais. Esses esforços normalmente começam por meio de recursos de filtragem automatizada de linguagem e trocas de informações inapropriadas, e se estendem ao uso de fichas de pedófilos condenados e registros sobre suas conversas no site para ensinar ao software o que procurar.
Mas mesmo que existam técnicas defensivas, e que elas sejam eficientes, seu uso pode ser caro. De uma perspectiva de negócios, há motivos fortes para os sites adotarem um padrão menos restritivo, a começar pelas expectativas adolescentes de maior liberdade de expressão, à medida que os jovens amadurecem. Se eles não encontram o que desejam em um site, vão procurar em outro lugar.
Quanto mais frouxa for a filtragem, maior a necessidade de ferramentas sofisticadas de monitoração, como as empregadas pelo Facebook e as oferecidas por companhias independentes como a britânica Crisp Thinking, que presta serviços à Lego, Electronic Arts e à divisão de entretenimento on-line da Sony, entre outros.
Além de bloquear palavras proibidas e sequências de números que poderiam representar telefones, a Crisp tem indicadores de alerta em chats baseados em múltiplas categorias de informação, entre as quais o uso de palavras de baixo calão, divulgação de informações de identidade pessoal ou tentativas de extrair informações.
Fatores como um grande número de mensagens não respondidas também são computados, porque se correlacionam tanto com esforços de spam quanto de busca de informações pessoais por predadores. O conteúdo das conversas de pedófilos condenados também é levado em conta.
Quando uma conversa atinge placar elevado, ela recebe um alerta codificado por cores, e os alertas vermelhos requerem resposta imediata dos moderadores.
Os arquivos do Facebook também usam análise de relacionamento e arquivos de chats reais que precederam agressões sexuais, disse o vice-presidente de segurança da empresa, Joe Sullivan, em seus comentários mais expansivos sobre o tema até o momento.
