https://www.theverge.com/23327809/twitter-onlyfans-child-sexual-content-problem-elon-musk
DentroNa primavera de 2022, o Twitter considerou fazer uma mudança radical na plataforma. Depois de anos permitindo silenciosamente conteúdo adulto no serviço, a empresa o monetizaria. A proposta: dar aos criadores de conteúdo adulto a capacidade de começar a vender assinaturas pagas no estilo OnlyFans, com o Twitter mantendo uma parte da receita.
Se o projeto tivesse sido aprovado, o Twitter teria arriscado uma enorme reação dos anunciantes, que geram a grande maioria das receitas da empresa. Mas o serviço poderia ter gerado mais do que o suficiente para compensar as perdas. OnlyFans, o mais popular dos sites de criadores de conteúdo adulto, está projetando US$ 2,5 bilhões em receita este ano – cerca de metade da receita do Twitter em 2021 – e já é uma empresa lucrativa.
Alguns executivos pensaram que o Twitter poderia facilmente começar a capturar uma parte desse dinheiro, já que o serviço já é o principal canal de marketing para a maioria dos criadores do OnlyFans. E assim os recursos foram enviados para um novo projeto chamado ACM: Adult Content Monetization.
Antes do sinal verde final para o lançamento, porém, o Twitter convocou 84 funcionários para formar o que chamou de “Equipe Vermelha”. O objetivo era “testar sob pressão a decisão de permitir que criadores adultos monetizem na plataforma, concentrando-se especificamente em como seria o Twitter fazer isso com segurança e responsabilidade”, de acordo com documentos obtidos pelo The Verge e entrevistas com os atuais e ex-funcionários do Twitter.
O que a Red Team descobriu inviabilizou o projeto: o Twitter não podia permitir que criadores adultos vendessem assinaturas com segurança porque a empresa não estava – e ainda não está – efetivamente policiando conteúdo sexual prejudicial na plataforma.
“O Twitter não pode detectar com precisão a exploração sexual infantil e nudez não consensual em escala”, concluiu a Red Team em abril de 2022. A empresa também não tinha ferramentas para verificar se os criadores e consumidores de conteúdo adulto eram maiores de idade, descobriu a equipe. Como resultado, em maio – semanas depois que Elon Musk concordou em comprar a empresa por US$ 44 bilhões – a empresa atrasou o projeto indefinidamente. Se o Twitter não pudesse remover consistentemente conteúdo de exploração sexual infantil na plataforma hoje, como começaria a monetizar pornografia?
O lançamento do ACM pioraria o problema, descobriu a equipe. Permitir que os criadores comecem a colocar seu conteúdo atrás de um paywall significaria que ainda mais material ilegal chegaria ao Twitter – e mais dele sairia de vista. O Twitter tinha poucas ferramentas eficazes disponíveis para encontrá-lo.
Levando a sério o relatório da Red Team, a liderança decidiu que não lançaria a monetização de conteúdo adulto até que o Twitter implementasse mais medidas de saúde e segurança.
O relatório da Red Team “fez parte de uma discussão, que acabou nos levando a pausar o fluxo de trabalho pelos motivos certos”, disse a porta-voz do Twitter Katie Rosborough.
Mas isso pouco fez para mudar o problema em questão – um que os funcionários de toda a empresa vêm alertando há mais de um ano. De acordo com entrevistas com funcionários atuais e ex-funcionários, além de 58 páginas de documentos internos obtidos pelo The Verge, o Twitter ainda tem um problema com conteúdo que explora sexualmente crianças. Os executivos aparentemente estão bem informados sobre o problema, e a empresa está fazendo pouco para corrigi-lo.
“O Twitter tem tolerância zero para exploração sexual infantil”, disse Rosborough, do Twitter. “Lutamos agressivamente contra o abuso sexual infantil online e investimos significativamente em tecnologia e ferramentas para fazer cumprir nossa política. Nossas equipes dedicadas trabalham para ficar à frente dos atores de má-fé e ajudar a garantir que estamos protegendo os menores de danos – tanto online quanto offline.”
Enquantoo trabalho da Red Team conseguiu atrasar o projeto de monetização de conteúdo adulto, nada que a equipe descobriu deveria ter sido uma surpresa para os executivos do Twitter. Quinze meses antes, pesquisadores que trabalhavam na equipe encarregada de tornar o Twitter mais civilizado e seguro soaram o alarme sobre o estado fraco das ferramentas do Twitter para detectar exploração sexual infantil (CSE) e imploraram aos executivos que adicionassem mais recursos para corrigi-lo.
O SISTEMA EM QUE O TWITTER SE BASEOU FORTEMENTE PARA DESCOBRIR O CSE COMEÇOU A QUEBRAR
“Embora a quantidade de CSE online tenha crescido exponencialmente, o investimento do Twitter em tecnologias para detectar e gerenciar o crescimento não”, começa um relatório de fevereiro de 2021 da equipe de saúde da empresa. “As equipes estão gerenciando a carga de trabalho usando ferramentas legadas com janelas quebradas conhecidas. Em resumo (e descrito detalhadamente abaixo), [moderadores de conteúdo] estão mantendo o navio à tona com suporte limitado ou nenhum da Health.”
