Báo động tình trạng nội dung khiêu dâm tạo bởi AI nhắm vào phụ nữ và trẻ em

Đây không phải vấn đề mới nhưng giới chuyên gia khuyến cáo khi AI càng dễ tiếp cận thì tình trạng phụ nữ và trẻ em trở thành nạn nhân của nội dung khiêu dâm sẽ càng tồi tệ. Nhiều học sinh trung học trên khắp thế giới trình báo khuôn mặt của mình bị sử dụng trong nội dung khiêu dâm phát tán rộng rãi. Một nhân vật nổi tiếng trên nền tảng phát trực tuyến Twitch cũng phát hiện đoạn phim nhạy cảm giả mạo cô lan truyền rộng rãi trong cộng đồng game thủ.

Giáo sư Danielle Citron (Đại học Virginia) lưu ý: “Không chỉ người nổi tiếng mà cả người bình thường như y tá, học sinh, giáo viên, nhà báo cũng bị nhắm đến. Chúng ta đã chứng kiến nhiều vụ việc ảnh hưởng đến học sinh trung học hay quân nhân. Tất cả mọi người đều không thoát khỏi ảnh hưởng”.

Nạn nhân đơn độc chống lại thông tin giả mạo

Lâu nay dư luận lo ngại nhiều đến mối nguy nội dung giả mạo tạo bởi AI tác động đến bầu cử hoặc thúc đẩy nỗ lực phát tán thông tin sai lệch chứ chưa quan tâm đúng mức tình trạng khuôn mặt của phụ nữ và trẻ em bị sử dụng trong nội dung khiêu dâm. Khi công nghệ ngày càng phát triển, âm thanh lẫn hình ảnh giả trở nên vô cùng tinh vi nên rất khó nhận ra.

Ở vụ việc vừa xảy ra với nữ ca sĩ Taylor Swift, lượng người hâm mộ đông đảo rất nhanh chóng dùng công cụ báo cáo trên mạng xã hội X để giúp gỡ bỏ nội dung khiêu dâm. Nhưng các nạn nhân khác không may mắn như vậy mà đa số phải đơn độc chống lại thông tin giả mạo.

X mất khoảng 17 tiếng để gỡ bỏ nội dung khiêu dâm, vài hình ảnh vẫn còn xuất hiện trên mạng. Nhà sáng lập tổ chức điều tra Memetica Ben Decker đánh giá các công ty truyền thông xã hội chẳng hề có kế hoạch giám sát nội dung chi tiết, cắt giảm nhân sự duyệt nội dung và giao phó công tác này cho hệ thống tự động và báo cáo từ người dùng.

Khi được hỏi về số hình ảnh giả mạo nữ ca sĩ Taylor Swift, thư ký báo chí Nhà Trắng Karine Jean-Pierre tuyên bố đây là vụ việc đáng báo động.

Nội dung giả mạo xuất hiện khắp nơi

Năm ngoái, học sinh trung học Francesca Mani sống ở bang New Jersey phát động chiến dịch yêu cầu xây dựng luật xử lý nội dung khiêu dâm tạo bởi AI sau khi em phát hiện ảnh của bản thân cùng 30 bạn nữ khác bị chỉnh sửa rồi chia sẻ rộng rãi. Hành động này dường như do vài nam sinh thực hiện.

Tháng 2.2023, một nam streamer Twitch bị bắt quả tang xem phim nhạy cảm giả mạo nữ streamer sở hữu tài khoản Sweet Anita.

Nỗ lực xử lý hiện còn gặp nhiều khó khăn. Tại Mỹ mới chỉ có 9 bang ra luật cấm tạo hoặc chia sẻ nội dung giả mạo người nào đó, chưa có luật liên bang. Giới chuyên gia đang kêu gọi sửa đổi Mục 230 trong Đạo luật Khuôn phép giao tiếp (quy định các nền tảng trực tuyến không cần chịu trách nhiệm pháp lý với nội dung do người dùng tạo ra).

Theo giáo sư Citron: “Bạn không thể xử lý hành vi tạo nội dung khiêu dâm giả mạo dựa trên luật chống khiêu dâm trẻ em vì chẳng có hành vi lạm dụng tình dục trẻ em nào diễn ra cả. Nhưng cảm giác bị xúc phạm, bị xem như công cụ tình dục thực sự gây tổn hại khủng khiếp đến tinh thần nạn nhân”.

Cách bảo vệ hình ảnh bản thân

Chuyên gia bảo mật máy tính David Jones (công ty Firewall Technical) khuyên mọi người chuyển hồ sơ cá nhân trên mạng xã hội về chế độ riêng tư và chỉ chia sẻ hình ảnh với người đáng tin cậy. Cách an toàn nhất vẫn là hạn chế chia sẻ.

Hiện tại AI vẫn cần nhiều dữ liệu thô cùng hình ảnh khuôn mặt để tạo ra nội dung giả mạo. Tuy nhiên chuyên gia Jones cảnh báo công nghệ ngày càng phát triển nên trong tương lai có thể chỉ một bức ảnh là đủ.

Cũng theo ông, tin tặc có thể cố gắng phá mật khẩu hòng truy cập hình ảnh chia sẻ trên tài khoản mạng xã hội. Vì vậy mọi người không nên đặt mật khẩu quá dễ đoán.