Bloomberg — El gobierno surcoreano solicitó a la aplicación de mensajería Telegram y a otras compañías de redes sociales que eliminasen de sus plataformas las imágenes sexuales deepfake (video, una imagen o un audio generado que imita la apariencia y el sonido de una persona) sexualmente explícitas, tras el repunte de esta clase de contenidos.
La Comisión de Normas de Comunicación de Corea abrirá una línea directa las 24 horas del día con Telegram para hacer consultas directas y permanentes con el objetivo de tomar medidas enérgicas contra la difusión de deepfakes, anunció el regulador en un comunicado este miércoles.
Lea más: El CEO de Telegram, Pavel Durov, estará detenido, al menos, dos días más
El ente regulador mencionó Telegram como el más importante canal de distribución de contenidos deepfake y no mencionó otras plataformas de redes sociales en su comunicado.
Pese a la determinación de la policía de abordar enérgicamente la divulgación de deepfakes, la cifra de casos de explotación sexual en línea en Corea del Sur ha ascendido a los 297 entre los meses de enero y julio de 2024, en comparación con los 180 casos registrados el año anterior, según información policial.
La decisión de las autoridades surcoreanas se produce al tiempo que el fundador de Telegram, Pavel Durov, fue detenido este fin de semana en Francia por acusaciones de que la aplicación de mensajería no ha combatido debidamente la delincuencia en la app, lo que incluye la proliferación de material de abusos sexuales a menores.
La mayoría de los deepfakes son vídeos e imágenes explícitas que se inventan mapeando la cara de un famoso en el cuerpo de otra persona. Algunos se utilizan para estafar a los consumidores o para dañar la reputación de políticos y otras personas de relevancia pública.
Vea además: CEO de Telegram es detenido en Francia, según la Embajada rusa
El 8 de febrero, la Comisión Federal de Comunicaciones de EE.UU. declaró ilegal que las empresas utilicen voces generadas por IA en las llamadas automáticas. La prohibición se produjo dos días después de que la Comisión Federal de Comunicaciones emitiera una orden de cese y desistimiento contra la empresa responsable de un deepfake de audio del presidente Joe Biden.
Los legisladores de Corea del Sur han propuesto un proyecto de ley para modificar las leyes relativas a la posesión o visualización de vídeos deepfake. Actualmente, una persona que produzca deepfakes con intención de distribuirlos puede ser condenada a un máximo de cinco años de prisión o enfrentarse a una multa de 50 millones de wones (US$37.448).
Lea más en Bloomberg.com
