As autoridades sul-coreanas disseram nesta quarta-feira (28) que planejam pedir ao Telegram e outras plataformas de mídia social que ajudem mais ativamente na exclusão e no bloqueio de conteúdo deepfake sexualmente explícito, parte das medidas destinadas a lidar com o problema crescente.
As medidas foram tomadas em meio à indignação pública e política depois que vários meios de comunicação nacionais relataram que imagens e vídeos deepfake sexualmente explícitos de mulheres sul-coreanas eram frequentemente encontrados em salas de bate-papo do Telegram.
Uma linha direta 24 horas para vítimas também será criada e o número de agentes reguladores monitorando crimes sexuais digitais será duplicado do número atual de 70, disse a Comissão de Padrões de Comunicações da Coreia.
A Agência Nacional de Polícia da Coreia também disse que fará um esforço de sete meses para reprimir crimes sexuais online.
O órgão de fiscalização de mídia planeja criar outro órgão consultivo para melhorar a comunicação com as empresas de mídia social sobre a exclusão e o bloqueio de conteúdo sexual deepfake, disse seu presidente, Ryu Hee-lim, em uma reunião sobre o assunto.
Para empresas que não têm escritórios na Coreia do Sul, a empresa quer criar um canal presencial para consultas regulares.
“A produção, posse e distribuição de vídeos deepfake de crimes sexuais são crimes graves que destroem a dignidade individual e os direitos pessoais”, disse Ryu.
Além do Telegram, a comissão disse que buscaria cooperação da X, bem como do Meta.
O Facebook e Instagram, o META.O da Meta, e do GOOGL.O YouTube, do Google.
Nenhuma das empresas respondeu ao pedido de comentário da Reuters.
As críticas ao Telegram na Coreia do Sul coincidiram com a prisão de Pavel Durov, fundador russo do Telegram, no fim de semana — parte de uma investigação francesa sobre pornografia infantil, tráfico de drogas e fraude no aplicativo de mensagens criptografadas.
O número de casos de crimes sexuais deepfake na Coreia do Sul aumentou de 156 em 2021, quando os dados foram coletados pela primeira vez, para 297 até agora neste ano, com a maioria dos perpetradores sendo adolescentes, de acordo com dados da polícia.
As vítimas geralmente são mulheres e incluem estudantes e também mulheres soldados do exército da Coreia do Sul.
Os sul-coreanos fizeram mais de 6.400 solicitações de ajuda à Korea Communications Standards Commission para que conteúdo deepfake sexualmente explícito fosse removido neste ano.
Isso se compara a quase 7.200 casos no ano passado em que a comissão concordou em ajudar a remover o conteúdo.
