Công cụ AI trên Telegram biến loạt Idol K-POP thành khiêu dâm, BlackPink cũng ảnh hưởng gây phẫn nộ
Mới đây, trên nhiều hội nhóm Telegram đang lan truyền các hình ảnh và video Deepfake ghép mặt các idol KPOP trong đó có cả các thành viên Blackpink thành các nội dung khiêu dâm đã gây phẫn nộ lớn trong các cộng đồng người dùng Internet.
Trang koreaboo cho biết trong thời gian gần đây, cộng đồng mạng đổ dồn sự chú ý vào bê bối tội phạm tình dục diễn ra ở Hàn Quốc gọi chung là "The New Nth Room", bao gồm các phòng chat được lập trên ứng dụng nhắn tin Telegram chia sẻ nội dung khiêu dâm dựa trên công nghệ Deepfake.
Trong quá trình nâng cao nhận thức về những tội phạm này, cư dân mạng đã đưa ra thông tin rằng hàng trăm thần tượng KPOP nữ là nạn nhân của khiêu dâm giả mạo bằng công nghệ Deepfake với các chatbot tích hợp AI được chia sẻ trên Telegram.
Theo một báo cáo của Security Hero do Wall Street Journal chia sẻ: Hàn Quốc là quốc gia dễ bị tội phạm tình dục deepfake nhất. Báo cáo phát hiện ra rằng trong số gần 96.000 video từ mười trang web khiêu dâm deepfake và 85 kênh deepfake trên các nền tảng chia sẻ video được phân tích trong hai tháng, 53% cá nhân xuất hiện trong phim khiêu dâm deepfake là ca sĩ và diễn viên Hàn Quốc..
Trong đó có tới 100 nghệ sĩ từ hầu hết mọi thế hệ K-Pop, trong đó nổi tiếng nhất là Black Pink và bao gồm một số nhóm thế hệ thứ năm mới ra mắt chưa lâu.
Deepfake khiêu dâm là viêc một công cụ được đào tạo bởi AI sử dụng khuôn mặt của bất cứ ai dù là người bình thường hay nghệ sĩ nổi tiếp được áp lên nội dung khiêu dâm có sẵn hoặc ảnh thật của các ngôi sao được chỉnh sửa để trông giống như khỏa thân.
Ngoài các trang web khiêu dâm nói chung, còn có nhiều trang web cung cấp công cụ để bất cứ ai cũng có thể thực hiện các nội dung Deepfake miễn phí hoặc thu phí. Một trong những cách phổ biến nhất hiện nay là sử dụng các chatbot tích hợp AI trên Telegram nhưng ứng dụng nhắn tin này chưa có động thái quản lý phù hợp.
Cư dân mạng trên toàn cầu hiện đang bày tỏ sự phẫn nộ, kêu gọi các công ty quản lý thần tượng hành động chống lại những hình ảnh deepfake này.
Các nhóm fan lớn của K-Pop cũng thực hiện các chiến dịch nhằm bảo vệ Idol của mình bằng cách kêu gọi người dùng report các trang, nhóm cung cấp công cụ thực hiện Deepfake.
