Não é segredo que a internet está repleta de conteúdo ilegal e prejudicial, muito dele alimentado por extremistas e grupos terroristas. Mas há um canto online que tem sido um terreno fértil para tais elementos, o aplicativo de mensagens Telegram. Conteúdo nocivo é facilmente espalhado na plataforma com sua abordagem de mãos livres para moderação de conteúdo e relutância em participar com a aplicação da lei na busca de atividades criminosas.

No mês passado, o enigmático fundador do Telegram, Pavel Durov, foi preso na França. O empreendedor russo-nascido de 39 anos enfrenta acusações de não cooperar com a aplicação da lei e cumplicidade em crimes cometidos na plataforma, incluindo distribuição de material de abuso sexual infantil, tráfico de drogas e fraude.

Essa prisão ocorre em meio a crescentes preocupações com o papel do Telegram como um centro de atividade criminosa, extremismo e desinformação. Uma investigação recente do The New York Times revelou a extensão em que a plataforma se tornou um terreno fértil para conteúdo ilegal e prejudicial.

Os recursos exclusivos do Telegram, como canais e supergrupos, o tornaram uma plataforma atraente para usuários legítimos e aqueles com intenções nefastas. Ao mesmo tempo, a determinação do aplicativo em permanecer fiel aos princípios de privacidade e liberdade de expressão levou à criação de um refúgio para empresas criminosas, organizações terroristas e grupos extremistas.

O The New York Times encontrou 1.500 canais operados por supremacistas brancos que coordenam atividades entre quase um milhão de pessoas em todo o mundo. Armas são comercializadas por pelo menos duas dúzias de canais, enquanto drogas ilegais podem ser compradas em 22 canais oferecendo entrega para mais de 22 países. O Hamas tem uma presença significativa na plataforma com 40 canais, cuja audiência média aumentou dez vezes após os ataques de 7 de outubro, atingindo mais de 400 milhões de visualizações em outubro.

O Telegram é “o lugar mais popular para que atores mal-intencionados e violentos se reúnam”, disse Rebecca Weiner, comissária adjunta de inteligência e contraterrorismo do Departamento de Polícia de Nova York, ao The New York Times. “Se você é um cara mau, é aí que você vai pousar.”

A atividade em alguns desses canais levou à violência no mundo real. Por exemplo, os recentes distúrbios na Grã-Bretanha e os incêndios criminosos em centros de acolhimento de migrantes na Irlanda são pensados ​​para ter se originado de discursos de ódio no aplicativo.

Durov há muito mantém uma crença firme na mínima interferência do governo com a comunicação online. Essa filosofia se traduziu em uma abordagem de mãos livres para a moderação de conteúdo, com o Telegram empregando apenas uma pequena equipe de moderadores – apenas algumas centenas – em comparação com as milhares usadas por seus pares tecnológicos.

A empresa também frustrou as autoridades em todo o mundo com sua relutância em cooperar com a aplicação da lei. Uma das razões pelas quais a França acusou Durov de cumplicidade no tráfico de imagens de abuso sexual infantil foi devido a “uma quase total falta de resposta” aos pedidos de assistência, segundo o procurador-chefe.

Até agora, a única alavanca que as autoridades podem usar é a ameaça de pedir à Apple ou ao Google para remover o Telegram de suas lojas de aplicativos. As gigantes da tecnologia conseguiram convencer a plataforma a remover e restringir material prejudicial, de acordo com analistas, funcionários do governo e executivos de tecnologia. “A maior pressão sobre o Telegram não vem dos governos; vem da Apple e do Google”, disse Durov a Tucker Carlson em uma entrevista no início deste ano.

À medida que o Telegram se aproxima de um bilhão de usuários, a paciência com a plataforma está se esgotando em muitos países democráticos. A União Europeia está explorando novas medidas de supervisão no âmbito da Lei de Serviços Digitais, que poderia forçar o Telegram a policiar mais agressivamente seu conteúdo.

No entanto, a prisão de Durov pode ser o ponto de virada para o Telegram. Em meio à crescente pressão sobre a plataforma, Durov prometeu fazer melhorias significativas na moderação de conteúdo em seus primeiros comentários a seus mais de 12 milhões de seguidores após sua prisão.

• Veja também: Homem é acusado de transmitir sua música gerada por IA bilhões de vezes usando bots, gerando US$ 12 milhões