Documento estima que, diariamente, 100 mil menores recebiam fotos íntimas de adultos ou outros conteúdos sexualmente abusivos
Um relatório interno da Meta, elaborado em 2021, pontuou que crianças usando Instagram e Facebook eram alvos frequentes de assédio sexual em ambas as plataformas.
O documento estima que, diariamente, 100 mil menores recebiam fotos íntimas de adultos ou outros conteúdos sexualmente abusivos.
Documento veio à tona agora
- Segundo o The Wall Street Journal, o relatório veio à tona três anos depois por estar entre os materiais não-editados sobre as políticas de segurança infantil da Meta;
- Os documentos estão inclusos em processo movido pelo Estado do Novo México (EUA), que acusa as redes sociais da empresa de recomendarem conteúdos sexuais para seus usuários menores de idade;
- A ação também acusa a empresa de Mark Zuckerberg de promover perfis desses menores para usuários adultos que são pedófilos;
- O Olhar Digital detalhou a ação movida pelo Novo México nesta reportagem;
- Recentemente, a companhia implementou filtros de proteção em contas de adolescentes.
Informações contidas no relatório de 2021
Em um desses documentos internos de 2021, os funcionários da Meta perceberam que um de seus algoritmos que recomenda perfis, chamado “Pessoas que você talvez conheça”, estava entre os que conectavam crianças a assediadores em potencial.
O processo movido pelo Novo México indica que a descoberta já tinha sido apresentada aos executivos da empresa vários dias antes. Os funcionários teriam apresentado uma solução: ajustar o código do algoritmo, chamado internamente de PYMK (de “People you may know”, em inglês), de modo que ele parasse com esse comportamento.
Porém, de acordo com o WSJ, os executivos teriam rejeitado a ideia e resolveram manter o algoritmo da maneira como ele tinha sido desenvolvido.
Em comentários anexados ao relatório, um dos empregados do Facebook indicou que, no passado, o algoritmo “contribuiu com mais de 75% de todos os contatos de adultos com menores”.
“Como é possível que não desligamos o PYMK entre adultos e crianças?”, respondeu outro funcionário, segundo a ação judicial. “É muito, muito perturbador.”
A Meta não quis se pronunciar sobre o relatório interno, mas reforçou ao WSJ mensagem divulgada em nota recente, na qual afirmou que o Estado do Novo México “descaracteriza nosso trabalho usando citações seletivas e documentos escolhidos a dedo”.
Chamando os assediadores de “criminosos determinados”, a Meta afirmou que vem investindo em ferramentas focadas na aplicação da lei e na segurança dos jovens usuários e de seus pais.
Alegações do Novo México
O Novo México afirma que a empresa dona de Facebook, Instagram e WhatsApp não conseguiu resolver o assédio generalizado em suas plataformas, ou, ao menos, limitar características de design que recomendam perfis infantis aos de adultos com intenções maliciosas.
Ainda na ação, o Estado acusa a empresa de ter mentido para o público, afirmando que suas redes eram seguras para o público jovem, acobertando a informação de que centenas de milhares de crianças eram atacadas por dia ao invés de divulgar os dados.
Muito do conteúdo interno descrito nesse novo material não editado foca no Instagram. Um e-mail interno de 2020 enviado por funcionários aponta que a prevalência de conversas sobre sexo com menores foi 38 vezes maior no Instagram do que no Facebook Messenger em todo os EUA, e pediu à Meta que promulgasse mais proteções na plataforma. Os dados desse e-mail também estão no processo, conforme o Journal.
Ainda em 2020, um empregado informou que um executivo da Apple reclamou que seu filho de 12 anos foi alvo no Instagram. O mesmo funcionário, requisitado para resolver a questão, apontou que “isso é o tipo de coisa que irrita a Apple a ponto de ameaçar [sic] nos remover da App Store”, perguntando ainda se havia uma linha do tempo para quando a companhia poderia evitar que adultos enviem mensagens para crianças na rede social.
Uma apresentação de novembro de 2020 nomeada “Child Safety: State of Play” indicou que o Instagram empregou “proteções de segurança infantil mínimas” e descreveu políticas a respeito de “sexualização de menores” como “imaturas”. Posteriormente, notou-se o “foco mínimo” da plataforma no tráfico.
O Novo México afirma ainda que, mesmo sabendo a escala do problema, os líderes da Meta não agiram para evitar que adultos fizessem abordagens sexuais a crianças até o fim de 2022, e, então, não atingiram as amplas limitações de mensagens recomendadas pelos funcionários da empresa.
Ao invés de parar amplamente a recomendação de perfis infantis a adultos, as redes sociais focaram no bloqueio de tais sugestões somente a adultos que já tivessem demonstrado um comportamento suspeito acerca de crianças.
Essa abordagem da Meta, segundo o Estado, seria menos eficaz do que bloquear a recomendação a todos, pois tanto adultos como crianças com intenções discutíveis mentiam rotineiramente sobre suas idades.
Em 2021, a Meta reconheceu que boa parte dos menores que possuem perfis nas redes sociais da Meta mentem que são adultos, segundo a denúncia, e um estudo de contas desativadas apontou que 99% desses adultos não informavam sua idade no perfil.
Ações da Meta
Em junho, a Meta criou força-tarefa para resolver problemas relacionados à segurança infantil em suas plataformas após o WSJ revelar que os algoritmos do Instagram conectavam e promoviam grande rede de contas explicitamente dedicadas à compra de conteúdo sexual para menores. Outras medidas, como criptografia para mensagens diretas, também foram implantadas pela Meta.
Além da ação movida pelo Novo México, mais de 40 outros estados dos EUA processaram a empresa em outubro do ano passado, também afirmando que ela enganou seu público sobre os perigos contidos em suas plataformas para os jovens.
Neste mês, a empresa indicou que começaria a restringir, de forma automática, contas de adolescentes no Instagram e no Facebook de conteúdo prejudicial, o que inclui vídeos e postagens acerca de automutilação, violência gráfica e transtornos alimentares.
Por Rodrigo Mozelli
