Escândalo abrange 500 instituições e diversas vítimas menores, com mensagens e fotos pessoais circulando em grupos de bate-papo no aplicativo.
No último sábado (31/8), Heejin recebeu uma mensagem no Telegram de um remetente desconhecido. A mensagem alertava: ‘Suas fotos e informações pessoais vazaram.’ Essa situação levanta preocupações sobre a crescente incidência de pornografia e deepfake, que têm se tornado temas recorrentes nas discussões sobre privacidade e segurança online.
Além disso, a disseminação de imagens falsas e conteúdo pornográfico gerados por deepfakes pode causar danos irreparáveis à reputação das vítimas. É fundamental estar ciente dos riscos associados a essas tecnologias. A manipulação digital tem o potencial de transformar vidas, e a proteção contra esses abusos é uma prioridade que não pode ser ignorada.
Introdução ao Tema da Pornografia Deepfake
Quando a estudante universitária da Coreia do Sul decidiu entrar no bate-papo para verificar a mensagem recebida, deparou-se com uma foto dela mesma tirada há alguns anos, durante seu período escolar. Para sua surpresa, logo em seguida, recebeu uma segunda imagem, que utilizava a mesma foto, mas de uma maneira sexualmente explícita e, evidentemente, falsa. Assustada, Heejin, que não é seu nome verdadeiro, optou por não responder, mas as imagens continuaram a ser enviadas. Em todas elas, seu rosto havia sido inserido em um corpo realizando atos sexuais, utilizando a avançada tecnologia de deepfake. A pornografia deepfake, que se caracteriza por combinar predominantemente o rosto de uma pessoa real com um corpo falso e sexualmente explícito, está sendo gerada com uma frequência crescente através de ferramentas de inteligência artificial.
Compreendendo o Impacto da Tecnologia Deepfake
O trauma devastador enfrentado por indivíduos cujas imagens foram utilizadas em ‘deepfakes’ pornográficos é alarmante. ‘Fiquei petrificada, me senti tão sozinha’, relatou Heejin à BBC. Contudo, ela não estava sozinha nessa situação. Apenas dois dias antes, a jornalista sul-coreana Ko Narin havia publicado o que se tornaria um marco em sua carreira jornalística. Recentemente, havia sido revelado que a polícia estava investigando redes de pornografia deepfake em duas das principais universidades do país, e Ko acreditava que havia muito mais a ser descoberto. Ela começou a investigar nas redes sociais e encontrou dezenas de grupos de bate-papo no aplicativo de mensagens do Telegram, onde os usuários compartilhavam fotos de mulheres que conheciam e usavam um software de inteligência artificial para transformá-las em imagens pornográficas falsas em questão de segundos.
A Dinâmica dos Grupos de Bate-Papo e a Exposição a Conteúdos Falsos
‘A cada minuto, as pessoas estavam enviando fotos de garotas que conheciam e solicitando que fossem convertidas em deepfakes’, comentou Ko à BBC. Durante sua investigação, Ko descobriu que esses grupos não se restringiam apenas a estudantes universitárias. Havia salas de bate-papo dedicadas a escolas específicas do ensino médio e até mesmo do ensino fundamental. Se um conteúdo excessivo fosse criado utilizando as imagens de uma aluna em particular, ela poderia até ganhar sua própria sala. Comumente denominadas ‘salas de humilhação’ ou ‘salas de amigas de amigos’, essas salas geralmente impõem termos de entrada rigorosos.
Repercussões e Respostas das Autoridades
A reportagem de Ko, publicada no jornal Hankyoreh, causou grande choque na Coreia do Sul. Na segunda-feira (2/9), a polícia anunciou que estava considerando abrir uma investigação sobre o Telegram, seguindo o exemplo das autoridades da França, que recentemente acusaram o fundador do aplicativo de crimes relacionados à plataforma. O governo sul-coreano prometeu impor punições mais severas para os envolvidos nesse tipo de crime, e o presidente fez um apelo para que os jovens fossem mais educados sobre as consequências da pornografia deepfake. O Telegram, por sua vez, afirmou que ‘combate ativamente conteúdo prejudicial em sua plataforma, incluindo pornografia ilegal’, em uma declaração enviada à BBC.
Conclusão e Reflexões Finais
A situação exposta por Ko e Heejin evidencia a necessidade urgente de discutir a tecnologia de deepfake e suas implicações éticas e sociais. As imagens falsas e o conteúdo pornográfico gerado por meio dessa tecnologia não apenas violam a privacidade das pessoas, mas também causam danos psicológicos profundos. A luta contra a pornografia deepfake é uma batalha que envolve a conscientização, a educação e a aplicação de leis mais rigorosas para proteger as vítimas e prevenir o uso indevido de imagens pessoais.
Fonte: © G1 – Tecnologia
Comentários sobre este artigo