Já sou assinanteVer notícias do dia
CARREGANDO :)
Quando software dá sinal de alerta, Facebook repasse o nome do suspeito para a polícia| Foto: Karen Bleier/AFP

Sigilo

Empresa evita dar detalhes sobre o programa

Como a maioria de seus rivais, o Facebook, em geral, evita discutir suas práticas de segurança para não causar susto, porque o sistema não apanha muitos dos predadores, e a fim de evitar questionamentos quanto à privacidade dos usuários. Os usuários poderiam se incomodar com a filtragem intensiva que suas conversações recebem, pelo menos por parte de softwares.

Em parte por causa de seu tamanho, o Facebook depende mais de tais tecnologias que alguns outros sites.

"Nunca quisemos criar um ambiente em que temos funcionários olhando comunicações privadas, então é realmente importante que usemos uma tecnologia que tem um índice muito baixo de falsos positivos", disse Joe Sullivan, vice-presidente de segurança do Facebook.

Uma baixa taxa de falsos positivos, porém, também significa que muitas comunicações perigosas passam sem ser detectadas. Alguns adultos usaram o Facebook para contatar dezenas de menores antes de atacá-los, para depois serem identificados por suas vítimas ou pais das vítimas, mostram registros judiciais nos EUA.

CARREGANDO :)

Em 9 de março deste ano, um software do Facebook registrou algo suspeito. Um homem com pouco mais de 30 anos estava conversando com uma menina de 13 anos do sul da Flórida, e planejava um encontro com ela na saída do colégio, no dia seguinte.

A extensa mas pouco conhecida tecnologia do Facebook para filtrar conversas e mensagens em busca de atividade criminosa automaticamente encaminhou um alerta sobre o diálogo a funcionários da companhia, que rapidamente chamaram a polícia.

Publicidade

Policiais assumiram o controle do computador da adolescente e detiveram o homem no dia seguinte, diz Jeffrey Duncan, agente do departamento de polícia da Flórida. O suposto criminoso se declarou inocente das múltiplas acusações de solicitar favores sexuais a uma menor de idade.

"A maneira e a terminologia do contato deles conosco nos propiciou a capacidade de reagir o mais rápido possível", disse um dos diversos policiais entrevistados, que elogiaram o Facebook por dar origem a esse tipo de investigação.

O Facebook está entre as diversas empresas que empregam uma combinação de novas tecnologias e vigilância humana para conter a ação dos predadores sexuais. Esses esforços normalmente começam por meio de recursos de filtragem automatizada de linguagem e trocas de informações inapropriadas, e se estendem ao uso de fichas de pedófilos condenados e registros sobre suas conversas no site para ensinar ao software o que procurar.

Mas mesmo que existam técnicas defensivas, e que elas sejam eficientes, seu uso pode ser caro. De uma perspectiva de negócios, há motivos fortes para os sites adotarem um padrão menos restritivo, a começar pelas expectativas adolescentes de maior liberdade de expressão, à medida que os jovens amadurecem. Se eles não encontram o que desejam em um site, vão procurar em outro lugar.

Quanto mais frouxa for a filtragem, maior a necessidade de ferramentas sofisticadas de monitoração, como as empregadas pelo Facebook e as oferecidas por companhias independentes como a britânica Crisp Thinking, que presta serviços à Lego, Electronic Arts e à divisão de entretenimento on-line da Sony, entre outros.

Publicidade

Além de bloquear palavras proibidas e sequências de números que poderiam representar telefones, a Crisp tem indicadores de alerta em chats baseados em múltiplas categorias de informação, entre as quais o uso de palavras de baixo calão, divulgação de informações de identidade pessoal ou tentativas de extrair informações.

Fatores como um grande número de mensagens não respondidas também são computados, porque se correlacionam tanto com esforços de spam quanto de busca de informações pessoais por predadores. O conteúdo das conversas de pedófilos condenados também é levado em conta.

Quando uma conversa atinge placar elevado, ela recebe um alerta codificado por cores, e os alertas vermelhos requerem resposta imediata dos moderadores.

Os arquivos do Facebook também usam análise de relacionamento e arquivos de chats reais que precederam agressões sexuais, disse o vice-presidente de segurança da empresa, Joe Sullivan, em seus comentários mais expansivos sobre o tema até o momento.