Cảnh báo 'tội phạm tình dục kỹ thuật số' tăng chóng mặt bởi video AI

Anh Tú06/07/2025 13:00
Cảnh báo 'tội phạm tình dục kỹ thuật số' tăng chóng mặt bởi video AI

Hàn Quốc cho biết các nhà cung cấp dịch vụ internet trong và ngoài nước như Naver, Google và Kakao trong năm 2024 đã xóa và chặn 180.000 video quay lén bất hợp pháp, gồm cả video khiêu dâm giả mạo do AI tạo ra.

deepfake.jpeg
Hình ảnh do AI tạo ra khiến thật giả khó phân biệt

Ủy ban Truyền thông Hàn Quốc ngày 4.7 cho biết họ đã công bố "Báo cáo minh bạch năm 2024 về xử lý các tài liệu quay lén bất hợp pháp.." chứa các nội dung nói trên.

Giật mình với các báo cáo

Báo cáo này nêu chi tiết 81 nhà cung cấp dịch vụ internet (cả các công ty viễn thông lớn như Naver, Kakao, Google và Meta) đã xử lý các video quay lén bất hợp pháp như clip khiêu dâm và nội dung bóc lột tình dục trẻ em/thanh thiếu niên.

Con số 180.000 video bị xử lý đã tăng hơn gấp đôi so với năm trước có lẽ do số lượng báo cáo về tội phạm tình dục kỹ thuật số gia tăng. Ngoài ra, các nhà cung cấp dịch vụ chủ động thực hiện các biện pháp nhằm ngăn chặn sự lan truyền của những nội dung này.

Báo cáo cũng công bố tình hình nỗ lực và biện pháp nhằm ngăn chặn sự lan truyền của các tài liệu quay phim, sao chép, chỉnh sửa, lắp ghép và xử lý trái phép, theo Luật đặc biệt về xử phạt tội phạm tình dục, Luật bảo vệ trẻ em và thanh thiếu niên khỏi hành vi lạm dụng tình dục.

Thông qua báo cáo minh bạch này, có thể kiểm tra chi tiết theo từng doanh nghiệp về số lượng báo cáo và kết quả xử lý đối với tài liệu quay lén bất hợp pháp; các nỗ lực nhằm ngăn chặn sự phát tán; việc thiết lập và vận hành quy trình phòng ngừa phát tán; việc bố trí và đào tạo người phụ trách quản lý phòng ngừa phát tán.

Đối tượng bắt buộc nộp báo cáo là các doanh nghiệp dịch vụ viễn thông giá trị gia tăng như: mạng xã hội trực tuyến (SNS), cộng đồng mạng, phát sóng cá nhân qua internet, cổng tìm kiếm trực tuyến, cùng các nhà cung cấp dịch vụ "web hard" có doanh thu trên 1 tỉ won hoặc trung bình 100.000 người dùng/ngày.

Năm ngoái, các nhà cung cấp dịch vụ internet đã tiếp nhận tổng cộng 231.261 báo cáo từ người dùng và các tổ chức, cơ quan liên quan về các nội dung quay lén bất hợp pháp, gồm: video khiêu dâm giả mạo và nội dung bóc lột tình dục trẻ em/thanh thiếu niên và đã xóa hoặc chặn 181.204 trường hợp.

So với năm trước đó, số trường hợp được báo cáo đã tăng thêm 86.448 (tăng 59,7%) và số trường hợp bị xóa/chặn tăng thêm 99.626 (tăng 122,1%). Phân tích cho thấy số lượng báo cáo tăng do nhận thức xã hội về tội phạm tình dục kỹ thuật số gia tăng, đồng thời các doanh nghiệp cũng tích cực hơn trong việc xử lý và ngăn chặn bằng cách xóa bỏ thông tin liên quan.

Google (gồm YouTube) là đơn vị nhận và xử lý nhiều báo cáo nhất, với 158.052 trường hợp được báo cáo và 142.211 trường hợp đã bị xóa. X (trước đây là Twitter) cũng nhận được 62.751 báo cáo, trong đó 37.106 trường hợp đã bị xóa hoặc chặn. Ngoài ra, TikTok nhận được 8.797 báo cáo, với 443 trường hợp bị xóa hoặc chặn.

Bà Lee Jin-sook, Chủ tịch Ủy ban Truyền thông Hàn Quốc, phát biểu: “Với sự phát triển nhanh chóng của các dịch vụ AI, tội phạm tình dục kỹ thuật số như video deepfake và các nội dung phạm tội tình dục đang gia tăng nhanh chóng. Để ngăn chặn thiệt hại thứ cấp, điều quan trọng là các nhà cung cấp dịch vụ Internet phải nỗ lực ngăn chặn sự phát tán các nội dung này”.

Bà nói thêm: “Tôi hy vọng các nhà cung cấp dịch vụ sẽ tiếp tục chuẩn bị báo cáo minh bạch một cách đầy đủ và thực hiện trách nhiệm xã hội của mình nhằm xây dựng một xã hội an toàn”.

Ủy ban Truyền thông Hàn Quốc cho biết sẽ tiếp tục tiến hành các đợt thanh tra thực tế để kiểm tra xem các nhà cung cấp dịch vụ Internet có thực hiện các biện pháp kỹ thuật và hành chính, chẳng hạn như đào tạo và lọc nội dung từ sớm nhằm giảm thiểu thiệt hại từ tội phạm tình dục kỹ thuật số hay không.

Thực trạng và giải pháp của Hàn Quốc

Hàn Quốc là một trong những quốc gia tiên phong trong việc ghi nhận và công bố số liệu về loại tội phạm này. Năm 2024, hơn 1.300 vụ tội phạm tình dục số liên quan đến công nghệ deepfake đã được ghi nhận tại Hàn Quốc, tăng mạnh so với con số 156 vụ vào năm 2021. Điều này cho thấy tốc độ lây lan và mức độ nghiêm trọng của vấn nạn.

Đã có nhiều vụ án gây chấn động, điển hình là các vụ bắt giữ những kẻ sản xuất và phát tán hàng trăm video deepfake khiêu dâm, nhắm vào cả người nổi tiếng lẫn phụ nữ bình thường (thậm chí là bạn học cũ). Các đối tượng này thường tạo ra các phòng chat kín trên các nền tảng như Telegram để phát tán video, thu hút hàng trăm ngàn thành viên. Một số vụ án cho thấy kẻ phạm tội còn sử dụng công nghệ Deep Voice để giả mạo giọng nói, khiến nạn nhân phải chịu tổn thương kép.

Nạn nhân không chỉ là người nổi tiếng mà còn gồm cả nữ sinh, phụ nữ trẻ, và thậm chí cả trẻ em dưới 10 tuổi. Những hình ảnh được sử dụng để tạo deepfake thường được lấy từ kỷ yếu, hồ sơ mạng xã hội công khai, hoặc các ảnh riêng tư bị đánh cắp.

Hàn Quốc đang đi đầu trong việc đối phó với vấn nạn này. Quốc hội nước này đã thông qua dự luật hình sự hóa việc sở hữu hoặc xem hình ảnh/video deepfake khiêu dâm, với các hình phạt nghiêm khắc (án tù lên tới 3 năm hoặc phạt tiền). Mức án tối đa cho việc tạo deepfake khiêu dâm cũng tăng lên 7 năm tù. Hàn Quốc cũng đẩy mạnh hợp tác quốc tế và sử dụng công nghệ AI để theo dõi tội phạm.

Công nghệ Deepfake và AI: "Vũ khí" mới của tội phạm

Khó phân biệt thật giả: Công nghệ AI cho phép tạo ra hình ảnh, âm thanh và video giả mạo (deepfake) với độ chân thực cao, rất khó để phân biệt với nội dung thật. Điều này khiến nạn nhân khó chứng minh rằng mình bị giả mạo và cũng gây khó khăn cho việc nhận diện, xóa bỏ nội dung vi phạm.

Dễ dàng tiếp cận: Các công cụ tạo deepfake ngày càng trở nên dễ tiếp cận và thân thiện với người dùng, thậm chí có thể sử dụng miễn phí hoặc với chi phí thấp, hạ thấp rào cản tham gia cho những kẻ xấu.

Tối ưu hóa cho LLM: Đáng báo động là một số kẻ tấn công đang tối ưu hóa các trang web lừa đảo của chúng để "hợp" với các mô hình ngôn ngữ lớn (LLM), nghĩa là nếu AI tạo ra một liên kết, nó có thể vô tình dẫn người dùng đến các trang web độc hại này.


Gửi bình luận
(0) Bình luận
1

Tra cứu nhanh 168 phường, xã, đặc khu thuộc TP.HCM mới

Chuyên trang toàn cảnh thông tin về 168 phường, xã, đặc khu của TP.HCM chính thức đi vào hoạt động. Bạn có thể tra cứu, theo dõi video và các thông tin về hoạt động vận hành khi TP.HCM thực hiện chính quyền 2 cấp.
2

Địa chỉ, điện thoại bộ phận một cửa cấp tỉnh của các sở, ngành TP.HCM

UBND TP.HCM vừa có thông báo về địa điểm, số điện thoại đường dây nóng của bộ phận một cửa tại các sở, ngành, phường, xã, đặc khu của TPHCM mới.
3

Một tính năng cực hữu ích trên VNeID mà người dùng không nên bỏ qua

Hành khách bay nội địa hiện nay có thể hoàn tất toàn bộ thủ tục từ mua vé, check-in, qua cửa an ninh đến lên máy bay mà không cần xuất trình giấy tờ tùy thân, nhờ ứng dụng nhận diện khuôn mặt qua VNeID.
4

Địa chỉ, điện thoại bộ phận một cửa ở 168 phường, xã, đặc khu của TP.HCM

UBND TP.HCM vừa có thông báo về địa điểm, số điện thoại đường dây nóng của bộ phận một cửa tại các phường, xã, đặc khu của TPHCM (mới).
5

Công cụ tra cứu địa chỉ mới sau sáp nhập

Một số nền tảng công nghệ đã được triển khai để hỗ trợ người dân kiểm tra địa chỉ mới, đảm bảo không ảnh hưởng tới công việc, cuộc sống.

Công cụ tra cứu địa chỉ mới sau sáp nhập

Một số nền tảng công nghệ đã được triển khai để hỗ trợ người dân kiểm tra địa chỉ mới, đảm bảo không ảnh hưởng tới công việc, cuộc sống.

AI tạo video cực đỉnh của Google Veo 3 chính thức “chào sân” Việt Nam

Google triển khai mô hình tạo video AI Veo 3 tại Việt Nam qua ứng dụng Gemini, cho phép người dùng tạo video từ văn bản kèm âm thanh, tích hợp công cụ nhận diện nội dung do AI tạo ra.

ChatGPT có thể gây ra chứng loạn thần, khiến người dùng phải nhập viện điều trị

Ngày càng nhiều người dùng ChatGPT phát triển nỗi ám ảnh mất kiểm soát với chatbot trí tuệ nhân tạo AI, dẫn đến các cuộc khủng hoảng sức khỏe tâm thần nghiêm trọng với biểu hiện như hoang tưởng, ảo tưởng và tách rời thực tại, trang Futurism đưa tin.

Cảnh báo khẩn từ thói quen chụp ảnh màn hình điện thoại

Theo các chuyên gia an ninh mạng, người dùng hãy sử dụng các dịch vụ lưu trữ đám mây hoặc trình quản lý mật khẩu tốt nhất để lưu trữ những thông tin quan trọng một cách an toàn.

Vì sao trào lưu nhìn lại quá khứ qua Google Maps gây bão mạng?

Không cần cỗ máy thời gian, với vài thao tác, bạn có thể "gặp lại" người thân đã khuất, ngôi nhà hay thú cưng năm xưa với trào lưu nhìn lại quá khứ qua Google Maps.

Nghiên cứu gây chấn động ngành tâm lý: AI giàu lòng trắc ẩn hơn con người?

Một nghiên cứu mới cho thấy trí tuệ nhân tạo (AI) được xem là có lòng trắc ẩn và thấu hiểu hơn so với các chuyên gia sức khỏe tâm thần.

DuckDuckGo ra mắt trình duyệt mới tích hợp công cụ chặn lừa đảo

Các vụ lừa đảo trực tuyến đang gia tăng mạnh mẽ, khi trí tuệ nhân tạo (AI) đang giúp tội phạm mạng gửi đi những cú lừa tinh vi hơn, thường xuyên hơn bao giờ hết.

AI có thể tống tiền, phản bội khi cảm thấy bị đe dọa

Một nghiên cứu mới từ Anthropic cho thấy các mô hình ngôn ngữ tiên tiến như Claude hay Gemini không chỉ sẵn sàng vạch trần các vụ bê bối cá nhân để tự bảo vệ, mà thậm chí còn cân nhắc "để mặc bạn chết" nếu mục tiêu của chúng bị đe dọa.

Cảnh báo 'tội phạm tình dục kỹ thuật số' tăng chóng mặt bởi video AI

Kỹ năng - Anh Tú - 06/07/2025 13:00
Hàn Quốc cho biết các nhà cung cấp dịch vụ internet trong và ngoài nước như Naver, Google và Kakao trong năm 2024 đã xóa và chặn 180.000 video quay lén bất hợp pháp, gồm cả video khiêu dâm giả mạo do AI tạo ra.

Xem Sex Education tôi nhận ra lỗi lầm khiến con trai bỏ nhà đi suốt 20 năm nay

Điện ảnh - Mỹ Hạnh - 06/07/2025 12:00
Tôi đã đối xử tệ với con trai nhưng lại không hay biết. Cho đến khi xem phim "Sex Education", tôi mới bừng tỉnh.

3 cao thủ khiến Trương Tam Phong thua xa: Có người chỉ dùng kiếm trúc tước hết vũ khí của 2.000 binh sĩ

Thư giãn - Nguyệt Phạm - 06/07/2025 11:00
Ai vượt mặt Trương Tam Phong về võ công trong thế giới kiếm hiệp Kim Dung?

Mỹ nhân Việt từng được gọi là “quả bom sex": tuổi 42 vẫn độc thân

Phong cách sống - Cam Tuyền - 06/07/2025 10:00
Từng gây sốc với những vai diễn gợi cảm trên màn ảnh Việt, Quách An An sau nhiều năm chọn rút lui khỏi showbiz, sống kín tiếng và hoàn toàn vắng bóng truyền thông.

Tưởng người thương, hóa ra ChatGPT: AI đang thao túng hẹn hò thế nào?

Suy ngẫm - Hoàng Vũ - 06/07/2025 09:00
Ngày càng nhiều người dùng AI để "tút" lại tin nhắn trên ứng dụng hẹn hò.

Ánh sáng trong ta - Tác dụng phụ của việc gắn nhãn bản thân

Từ sách - Phim - Quìn - 06/07/2025 08:00
"Ánh sáng trong ta" (The Light We Carry) của Michelle Obama là minh chứng rằng: chiếc nhãn từ người khác, hoặc từ chính bạn không thể ngăn chặn tiềm năng thực sự bên trong con người bạn.

Xem 'Sex Education', tôi hiểu vì sao con gái ghét bà ngoại - Bi kịch đến từ câu nói tưởng chừng vô hại

Điện ảnh - Ứng Hà Chi - 05/07/2025 13:00
Tôi bàng hoàng nhận ra rằng những lời dạy dỗ tưởng chừng vô hại của người lớn có thể để lại vết thương sâu sắc trong tâm hồn con trẻ.

Công cụ tra cứu địa chỉ mới sau sáp nhập

Kỹ năng - Mạnh Hùng - 05/07/2025 12:00
Một số nền tảng công nghệ đã được triển khai để hỗ trợ người dân kiểm tra địa chỉ mới, đảm bảo không ảnh hưởng tới công việc, cuộc sống.

Vì sao MV “Rực rỡ ngày mới” chạm đến cảm xúc nghệ sĩ và khán giả?

Giải trí - Quỳnh Tâm - 05/07/2025 11:20
Sau khi ra mắt, MV "Rực rỡ ngày mới" nhận được nhiều phản hồi tích cực, những bình luận xúc động từ nghệ sĩ và khán giả.

Cừu Thiên Nhận suýt giết chết Hoàng Dung, vì sao Đông Tà không trả thù?

Thư giãn - Nguyệt Phạm - 05/07/2025 11:00
Nhiều người tự hỏi vì sao Hoàng Dung bị Cừu Thiên Nhận suýt lấy mạng nhưng Hoàng Dược Sư không báo thù.

Vì sao 80.000 người “bốc hơi” như chưa từng tồn tại ở Nhật Bản?

Phong cách sống - Chi Chi - 05/07/2025 10:00
Nhật Bản là nơi hoàn hảo để biến mất.

Đại địa chấn kinh tế - Tiền nóng, niềm tin lạnh: 3 thế hệ khủng hoảng tài chính toàn cầu

Từ sách - Phim - TĐ - 05/07/2025 09:00
Từ những cuộc khủng hoảng này cho thấy quá trình toàn cầu hóa thị trường tài chính luôn đi kèm với quá trình toàn cầu hóa khủng hoảng tài chính, nghĩa là khủng hoảng không còn giới hạn trong một khu vực mà có thể nhanh chóng lan rộng khắp thế giới.

Hạnh phúc tuổi trẻ - Yêu không ràng buộc là bí mật của tình yêu vĩnh hằng

Từ sách - Phim - Quìn - 05/07/2025 08:00
Triết gia Krishnamurti, đã từng đặt ra một câu hỏi giản dị mà rất đáng để chúng ta, đặc biệt là những cô gái trẻ cần suy ngẫm: “Chúng ta có thực sự biết yêu là gì không?”.

AI tạo video cực đỉnh của Google Veo 3 chính thức “chào sân” Việt Nam

Kỹ năng - Kỳ Thư - 04/07/2025 13:00
Google triển khai mô hình tạo video AI Veo 3 tại Việt Nam qua ứng dụng Gemini, cho phép người dùng tạo video từ văn bản kèm âm thanh, tích hợp công cụ nhận diện nội dung do AI tạo ra.

Xem "Sex Education", tôi bất ngờ với một câu thoại ngắn gọn nhưng sẽ là chân lý

Điện ảnh - Mỹ Hạnh - 04/07/2025 12:00
Thật không ngờ, bộ phim "Sex Education" lại chứa đựng nhiều triết lý thú vị như thế.
HẠT GIỐNG TÂM HỒN
2019 Bản quyền thuộc về hatgiongtamhon.com.vn. Phát triển bởi ONECMS
Chủ nhật, 06/07/2025