Após a compra da rede social por Elon Musk, um grande número de trabalhadores que monitoravam conteúdo ofensivo foi demitido. Ex-funcionária e analistas preveem queda da qualidade do debate e mais abusos na plataforma.Até o sábado passado, o trabalho de Melissa Ingle era ajudar a manter o Twitter seguro. Como integrante do time de "integridade cívica" da empresa, a cientista de dados monitorou desinformação política na plataforma em eleições como as do Brasil e dos Estados Unidos, e escreveu algoritmos para detectar automaticamente conteúdos similares.

"Queríamos ter certeza de que o Twitter era uma plataforma saudável", afirma Ingle à DW.

No dia 12 de novembro, uma notificação no seu telefone informou que ela não teria mais acesso aos seus e-mails de trabalho. Quando percebeu que também havia sido desligada de sua conta do Slack [plataforma para comunicação profissional online], ela sabia que havia sido demitida.

Ingle não estava sozinha. Milhares de outros trabalhadores tiveram seus contratos rescindidos no último fim de semana, além dos cerca de 3,7 mil funcionários que o Twitter já havia demitido neste mês.

"Os cortes não parecem ter sido direcionados. Parece que uma quantidade enorme de pessoas foi simplesmente demitida", opina.

Seu relato ilustra o que os especialistas em regulamentação de plataformas descrevem como uma tendência preocupante. Após comprar a empresa em um negócio de 44 bilhões de dólares, Elon Musk está reformulando o Twitter. O homem mais rico do mundo já demitiu uma série de empregados que costumavam atuar no monitoramento de conteúdo odioso e discriminatório na plataforma.

Não está claro quantas pessoas trabalham atualmente nos esforços de moderação de conteúdo no Twitter. A empresa, cuja equipe de comunicação também foi desmantelada, não respondeu ao pedido da DW para comentar o caso.

Ingle adverte que as demissões recentes podem levar a mais abuso e que a falta de supervisão humana poderia tornar os sistemas de detecção automática cada vez menos confiáveis.

"O Twitter será um lugar menos prazeroso de se estar", diz.

O papel de revisores humanos

Empresas de mídia social, como o Twitter, utilizam mecanismos complexos, que, em parte, dependem da colaboração homem-máquina para moderar conteúdo nas plataformas.

Sempre que os usuários publicam novos conteúdos, eles são automaticamente escaneados por um software. Se o programa encontrar indicativos de que o post possa ser ilegal ou nocivo, ele é enviado a moderadores humanos de conteúdo para revisão. O trabalho dessas pessoas é decidir se o post está de acordo com as regras estabelecidas pela plataforma, assim como com as leis locais, ou excluí-lo.

Empregar esses moderadores humanos de conteúdo, entretanto, é caro – e Ingle diz que depois que Musk concluiu a aquisição do Twitter, no fim de outubro, funcionários foram instruídos a buscar maneiras de minimizar seu papel.

"A única instrução que recebemos após a aquisição foi de que as coisas precisavam ser automatizadas", afirma Ingle.

Mas tais esforços subestimaram o papel que os revisores humanos desempenham na manutenção de uma plataforma segura, ela adverte. Não apenas as pessoas são frequentemente necessárias para entender sutilezas na linguagem, como o sarcasmo, mas também desempenham um papel importante quando se trata de testar o mecanismo de escaneamento automatizado da plataforma. Elas garantem que os algoritmos permaneçam atualizados, pois a natureza e a linguagem dos debates online estão sempre mudando.

"Meu receio é de que, sem pessoas suficientes para atualizar o roteiro do que estamos procurando, o filtro que existe fique cada vez mais permeável", alerta a ex-funcionária.

"Na direção errada"

Mãe de dois filhos, Ingle conta que era uma ávida usuária do Twitter muito antes de começar a trabalhar para a empresa, há cerca de um ano, mas agora está muito preocupada.

No período de duas semanas entre a aquisição da empresa por Musk e sua demissão, ela diz que percebeu como usuários estavam cada vez mais "atacando pessoas por sentirem que isso vai ser permitido no novo site".

Pesquisas preliminares indicam que a observação da ex-funcionária está correta. Um estudo conduzido pela Universidade Tufts, nos Estados Unidos, por exemplo, apontou que, após Musk assumir o controle do Twitter, a qualidade do debate na plataforma caiu, e que "os primeiros sinais mostram que a plataforma está indo na direção errada".

Nesse sentido, a destituição de moderadores de conteúdo do Twitter é "preocupante em vários níveis", afirma Eliska Pirkova, analista de políticas da ONG de direitos digitais Access Now, com sede em Bruxelas.

Ela alerta que mais conteúdo ofensivo pode inundar a plataforma se Musk decidir restabelecer contas bloqueadas de usuários como o ex-presidente americano Donald Trump. Se e quando isso vai acontecer, não está claro – assim como não se sabe quando ocorrerá o próximo "conselho de moderação de contenção" do Twitter, que Musk anunciou no final de outubro.

Ao mesmo tempo, Pirkova prevê que grupos marginalizados e minorias sejam particularmente visados por conteúdo ofensivo no Twitter – uma avaliação ecoada por Julian Jaursch, especialista em regulamentação de plataformas do think tank Stiftung Neue Verantwortung, sediado em Berlim.

"Menos moderação de conteúdo afetará desproporcionalmente os grupos vulneráveis", afirma.

Ele acrescenta que os recentes desenvolvimentos no Twitter destacam os problemas oriundos de ter uma pessoa, que não presta contas a ninguém a não ser a ela própria, como responsável por uma das redes sociais mais importantes do mundo.

"O caso do Twitter mostra que não é do interesse público que uma pessoa sozinha controle um espaço de informação digital tão importante", conclui.