Estudiantes, profesores, soldados... “Deep Fake” asusta a todo el país | El Heraldo de Corea (TRADUCCIÓN)
Estudiantes, profesores, soldados... “Deep Fake” asusta a todo el país
2024.08.26 20:51
Síntesis y distribución de pornografía en la cara de conocidos en la sala de chat de Telegram
Miles de participantes en cada sala
Se extiende la lista de cientos de colegios afectados
Las investigaciones policiales han informado de 297 casos en todo el país este año
[Agregación de medios sociales].
[Herald Economy = Reportero Yoo Dong-hyun] Tras la reciente revelación de un vídeo deepfake que sintetizaba pornografía en la cara de una estudiante en una universidad, se han descubierto uno tras otro tipos similares de salas de chat de Telegram, causando revuelo.
Se sabe que entre las víctimas había no sólo estudiantes universitarios, sino también menores de edad, como alumnos de secundaria y bachillerato, así como profesores y mujeres militares, y sólo hay 100 lugares que circulan por las redes sociales como la “lista de escuelas afectadas”, y crece el temor de “si también se utilizó mi foto o la de mi hijo”.
La policía también ha iniciado investigaciones tras recibir denuncias de víctimas en algunas regiones. Recientemente, se ha detectado en Telegram un gran número de chats de grupo sospechosos de crear y distribuir vídeos falsos editados combinando pornografía en la cara de una mujer.
Anteriormente, se detuvo a los organizadores de las salas de chat en grupo dirigidas a estudiantes y graduados de la Universidad de Inha, y se crearon muchas salas de chat en Telegram en cada región y escuela de todo el país, lo que reveló que miles de personas participaban en cada sala de chat.
Acosaban sexualmente a los participantes compartiendo información sobre mujeres concretas que se conocían y produciendo y distribuyendo vídeos deepfake bajo el nombre de «Gulji Inbang».
Como resultado de la búsqueda de «Gyeoljibbang» (Gyeoljibbang) en "Telemetrio", que en realidad es compatible con la búsqueda de salas de chat de Telegram, se buscó inmediatamente «Gyeoljibbang by university» (Gyeoljibbang por universidad), al que estaban suscritas más de 3.500 personas a partir de ese día. Además, se encontraron canales de Telegram similares, como «Gyeoljibbang por universidad», al que están suscritas 1.800 personas.
Al parecer, los autores guardaron sin permiso fotos de las víctimas publicadas en redes sociales como Instagram y las utilizaron para el delito. También se compartió un enlace para producir vídeos deepfake utilizando el “programa bot”.
También se ha confirmado la existencia de un canal de deepfake en Telegram con cientos de miles de suscriptores.
Cuando entraba en un canal de Telegram, recibía inmediatamente instrucciones como “Debes utilizar una imagen con un solo personaje”, y cuando enviaba una imagen de la cara de un personaje concreto, se producía sintetizando una imagen desnuda de la cara en cuestión de segundos.
El número de suscriptores a este canal de Telegram alcanzó los 133.400 en la tarde del día 26.
La foto en sí se enviaba a una sala de chat individual separada, por lo que no era una estructura que pudiera ver imágenes creadas por otras personas.
Actualmente, la zona donde se realizó el vídeo ilegal de Deepfake y la lista de escuelas también se están compartiendo en las redes sociales. De hecho, no se ha confirmado si los alumnos pertenecientes a la escuela han sido perjudicados, pero resulta chocante que en la lista haya cientos de nombres de centros de enseñanza media y secundaria y universidades de todo el país.
También se están difundiendo rápidamente mensajes con los nombres y rostros de un gran número de hombres, que dicen ser los autores, pero no se ha confirmado su autenticidad.
También se dice que se creó una sala de chat para producir y distribuir vídeos deepfake a mujeres soldados. Según la foto capturada de la sala de chat, la persona que se cree que es el operador de la sala pedía a los participantes fotos de uniformes de soldados femeninos, fotos cotidianas y “sacrificio”.
La ansiedad de las mujeres también crece tras el anuncio de la noticia. También se compartieron consejos para crear una cuenta de SNS con sus fotos privadas y retirarlas.
En la cuenta de Instagram de un consejo de estudiantes de secundaria de la provincia de Gyeonggi-do, un post decía: “Actualmente, las fotos personales y deepfake de los estudiantes (de nuestra escuela) se están distribuyendo a través de Telegram”, y añadía: “Por favor, eviten daños enviando fotos personales subidas a Instagram”.
También hay preocupación entre los padres sobre si mi hijo también está incluido como víctima o autor.
La investigación también se está llevando a cabo, ya que las víctimas que identificaron accidentalmente pornografía deepfake con fotos de sus rostros robados lo denunciaron directamente a la policía.
Según la Agencia Nacional de Policía, de enero a julio de este año se recibieron en todo el país un total de 297 denuncias por delitos de explotación sexual deepfake (como difusión de vídeos falsos en virtud de la Ley de Castigo de la Violencia Sexual).
De los 178 sospechosos fichados, 131 eran adolescentes, lo que representa la friolera del 73,6%. Otros grupos de edad eran 36 veinteañeros (20,2%), 10 treintañeros (5,6%) y 1 cuarentón (0,6%).
En los últimos tres años, el número de delitos de explotación sexual deepfake denunciados a la policía en todo el país ha aumentado a 156 en 2021, 160 en 2022 y 180 en 2023, lo que significa que los delitos se están extendiendo a un ritmo más rápido este año.
La Agencia de Policía Metropolitana de Seúl dijo en una conferencia de prensa que recibió 10 denuncias de explotación sexual de telegramas en escuelas primarias, secundarias y preparatorias de enero a julio de este año, y fichó a 10 adolescentes de 14 años o más por este motivo.
La unidad de investigación de ciberdelitos de la Agencia de Policía de Jeonnam está siguiendo la pista de dos sospechosos que producían y distribuían pornografía deepfake sintetizando fotos de mujeres publicadas en SNS como Instagram. La comisaría de Chungju, en la provincia de Chungcheong del Norte, también está investigando sin detención a un estudiante de secundaria A (18) acusado de hacer y compartir fotos de pornografía con rostros de alumnas de su edad.
Sin embargo, se señala como problema que la investigación es limitada debido a la naturaleza de Telegram, con servidores en países extranjeros.
El equipo de investigación de ciberdelitos de la Agencia de Policía Metropolitana de Incheon, que está investigando el caso Deepfake dirigido a estudiantes de la Universidad de Inha, está investigando la identidad de los participantes en la sala de chat de Telegram, pero se sabe que es difícil identificar al operador.
En el caso de Telegram, otro obstáculo para la investigación es que, aunque una agencia de investigación reciba una denuncia o un informe e inicie una investigación, puede borrar fácilmente los vídeos y actividades subidos al canal.
Un investigador de la policía que investiga la ciberdelincuencia en Seúl dijo: «Si se reúnen pistas, se pueden asegurar en gran medida a través de las víctimas, los sospechosos y las plataformas», y añadió: «Se ha vuelto prácticamente imposible asegurarlas desde la plataforma (telegram)».
«Sin la cooperación de la plataforma, es difícil identificar al sospechoso y la parte que puede conocer la víctima es limitada», explicó.
En la actualidad, la policía se encarga de todas las investigaciones sobre ciberviolencia sexual, incluidos los delitos sexuales de deepfake, en las comisarías metropolitanas y provinciales.
Un funcionario de la División de Investigación de Ciberviolencia Sexual de la Agencia Nacional de Policía explicó: “Estamos promoviendo el avance del software de detección de deepfakes y la activación de investigaciones encubiertas”.
Telegram se caracteriza por una mayor seguridad y anonimato que otros SNS, pero por eso mismo se está convirtiendo en un nuevo foco de contenidos nocivos que ha suscitado recientemente preocupación en todo el mundo.
La sorpresiva detención de Pavel Durov, fundador y consejero delegado de Telegram, en Francia el pasado día 24 (hora local) también es digna de mención en este contexto. Se acusa a Durov de no haber tomado medidas para evitar que Telegram se utilizara con fines delictivos.
Algunos dijeron que se necesitan cambios fundamentales en la percepción para evitar la cosificación sexual de las mujeres, junto con un castigo estricto por parte de los organismos de investigación para resolver problemas fundamentales.
Kim Yeo-jin, director del Centro Coreano de Respuesta a la Ciberviolencia Sexual, señaló: “El problema de la cosificación sexual de la mujer se ha desarrollado hasta este nivel a medida que se repite y se une a la tecnología”.
Park Ji-hyun, ex miembro del comité de emergencias del Partido Democrático de Corea que dio a conocer por primera vez el incidente de la llamada 2Sala N”, dijo en su SNS: “Declárenlo desastre nacional y busquen alternativas urgentemente. Si Telegram se niega a investigar la cooperación personal de los autores como en el caso de la Sala N, al menos debería bloquear temporalmente Telegram en Corea”.
dingdong@heraldcorp.com
Fuente: El Heraldo de Corea
Traducción: 영숙 Young-Sook