Phanh phui chuỗi chợ đen chuyên sản xuất nội dung phim nóng độc hại

Theo Sohu, cuộc điều tra của báo Nam Phương Đô Thị mới đây đã gây chấn động MXH Trung Quốc, khiến các đơn vị truyền thông lớn như Tân Hoa Xã, CCTV phải lên tiếng về đường dây sản xuất và kiếm tiền từ phim ngắn AI có nội dung thô tục.

Theo báo Nam Phương Đô Thị, chuỗi chợ đen chuyên sản xuất phim ngắn khiêu dâm bằng trí tuệ nhân tạo đã hình thành theo quy mô lớn, bao gồm mua bán lại thông tin, vận hành ứng dụng, phát triển công cụ kỹ thuật và tuyển dụng nhân viên sản xuất nội dung.

Một thông báo tuyển biên kịch với mức lương lên tới 40.000 NDT/tháng làm việc trực tuyến, cùng lời đảm bảo "an toàn thông tin tuyệt đối" cho thấy thị trường phim khiêu dâm do AI sản xuất đã hình thành quy mô lớn.

Cuộc khảo sát của Common Sense Media tiến hành với hơn 1.300 thanh thiếu niên từ 13-17 tuổi, trong đó gần 75% số người đã xem nội dung phim khiêu dâm trực tuyến.

Các nhà nghiên cứu cho biết gần 20% thanh thiếu niên được khảo sát đã tự tạo ra nội dung khiêu dâm bằng AI hoặc biết ai đó đã làm như vậy, hơn một nửa nội dung đó mô tả những người mà họ quen biết.

Trong số 44% thanh thiếu niên đã xem nội dung khiêu dâm bằng trí tuệ nhân tạo, 15% người được khảo sát khẳng định họ truy cập thông qua các ứng dụng AI có thể tạo hoặc chỉnh sửa ảnh và video. Nhiều thanh thiếu niên đã phải đối mặt với hậu quả pháp lý vì tạo ra những hình ảnh khiêu dâm giả mạo về bạn cùng lớp.

Phim ngắn AI có nội dung nhạy cảm lan tràn trên các trang MXH Trung Quốc.

Theo quảng cáo trên các trang web, người xem chỉ cần bỏ 50 NDT/tháng là có thể mở gói xem, gói cả năm khoảng 500 NDT, hoặc mở từng tập với giá 4 NDT. Chuỗi chợ đen này không chỉ xây dựng quy trình hoạt động rất giống với các nền tảng phim ngắn hợp pháp, đáng sợ hơn trong ứng dụng xuất hiện cả nội dung lấy học sinh cấp ba làm nhân vật, dựng quan hệ thầy trò và các tình tiết tình dục liên quan đến người chưa đủ tuổi trưởng thành.

Trên các trang mạng xã hội Trung Quốc còn xuất hiện công cụ "AI cởi đồ" được bán công khai. Ứng dụng này cho phép người dùng sử dụng ảnh một người bình thường để dựng ra hình ảnh khỏa thân giả với giá từ 60-168 NDT.

Thậm chí, AI còn tạo ra các khóa học trả phí dạy toàn bộ quy trình tạo và kiếm tiền từ hình ảnh khiêu dâm. Một kỹ thuật viên họ Bạch tại Bắc Kinh thừa nhận đã sản xuất gần 7.000 bức ảnh trong vài tháng, bán cho 351 người và kiếm được gần 10.000 NDT. Sau khi bị bắt, Bạch bị kết án 3 năm tù vì sản xuất và bán các tài liệu khiêu dâm để kiếm lời.

Các ứng dụng này không có các lớp bảo mật cần thiết, không cần thủ tục đăng ký phức tạp, người dùng trẻ và trẻ vị thành niên rất dễ tiếp cận, thậm chí không mất tiền.

Viện nghiên cứu dữ liệu Thành Đô cho biết để thu hút lưu lượng truy cập và kiếm tiền, nhiều nền tảng xây dựng các nhóm riêng tư, bán gói nội dung nhạy cảm bất hợp pháp liên quan đến trẻ vị thành niên, bạo lực và tội phạm. Những nhóm này có mật mã hoạt động bí mật như "cởi đồ chỉ bằng một cú nhấp chuột", "cởi áo giáp", "thay quần áo" và "vẽ tranh" để giao dịch và thu hút người dùng trên các nền tảng thương mại điện tử và MXH.

Hình ảnh chỉnh sửa từ AI đã đem đến nhiều hậu quả khó lường. Không chỉ hủy hoại nhận thức của thế hệ trẻ, còn có những băng nhóm tội phạm lợi dụng hình ảnh giả mạo để tống tiền, tung tin đồn thất thiệt.

Một băng nhóm tội phạm ở Nam Dương, Hà Nam, Trung Quốc đã gửi ảnh khỏa thân do AI tạo ra qua đường bưu điện đến các nhân viên ngân hàng trên khắp Trung Quốc để tống tiền "bịt miệng". Cảnh sát đã chặn được 280 bức thư tống tiền dưới hình thức này trong một chiến dịch càn quét.

Việc kiểm duyệt nội dung phim AI đang trở thành vấn đề bức bách với các cơ quan quản lý nghệ thuật Trung Quốc.

Theo Sohu, việc xem, tạo hay bán các hình ảnh khiêu dâm từ AI đều bị tính là vi phạm pháp luật tại Trung Quốc. Các cuộc điều tra, vây bắt nhóm sản xuất video nóng phản cảm đã khiến nhiều người bị kết án.