Cảnh báo 'tội phạm tình dục kỹ thuật số' tăng chóng mặt bởi video AI

Anh Tú06/07/2025 13:00
Cảnh báo 'tội phạm tình dục kỹ thuật số' tăng chóng mặt bởi video AI

Hàn Quốc cho biết các nhà cung cấp dịch vụ internet trong và ngoài nước như Naver, Google và Kakao trong năm 2024 đã xóa và chặn 180.000 video quay lén bất hợp pháp, gồm cả video khiêu dâm giả mạo do AI tạo ra.

deepfake.jpeg
Hình ảnh do AI tạo ra khiến thật giả khó phân biệt

Ủy ban Truyền thông Hàn Quốc ngày 4.7 cho biết họ đã công bố "Báo cáo minh bạch năm 2024 về xử lý các tài liệu quay lén bất hợp pháp.." chứa các nội dung nói trên.

Giật mình với các báo cáo

Báo cáo này nêu chi tiết 81 nhà cung cấp dịch vụ internet (cả các công ty viễn thông lớn như Naver, Kakao, Google và Meta) đã xử lý các video quay lén bất hợp pháp như clip khiêu dâm và nội dung bóc lột tình dục trẻ em/thanh thiếu niên.

Con số 180.000 video bị xử lý đã tăng hơn gấp đôi so với năm trước có lẽ do số lượng báo cáo về tội phạm tình dục kỹ thuật số gia tăng. Ngoài ra, các nhà cung cấp dịch vụ chủ động thực hiện các biện pháp nhằm ngăn chặn sự lan truyền của những nội dung này.

Báo cáo cũng công bố tình hình nỗ lực và biện pháp nhằm ngăn chặn sự lan truyền của các tài liệu quay phim, sao chép, chỉnh sửa, lắp ghép và xử lý trái phép, theo Luật đặc biệt về xử phạt tội phạm tình dục, Luật bảo vệ trẻ em và thanh thiếu niên khỏi hành vi lạm dụng tình dục.

Thông qua báo cáo minh bạch này, có thể kiểm tra chi tiết theo từng doanh nghiệp về số lượng báo cáo và kết quả xử lý đối với tài liệu quay lén bất hợp pháp; các nỗ lực nhằm ngăn chặn sự phát tán; việc thiết lập và vận hành quy trình phòng ngừa phát tán; việc bố trí và đào tạo người phụ trách quản lý phòng ngừa phát tán.

Đối tượng bắt buộc nộp báo cáo là các doanh nghiệp dịch vụ viễn thông giá trị gia tăng như: mạng xã hội trực tuyến (SNS), cộng đồng mạng, phát sóng cá nhân qua internet, cổng tìm kiếm trực tuyến, cùng các nhà cung cấp dịch vụ "web hard" có doanh thu trên 1 tỉ won hoặc trung bình 100.000 người dùng/ngày.

Năm ngoái, các nhà cung cấp dịch vụ internet đã tiếp nhận tổng cộng 231.261 báo cáo từ người dùng và các tổ chức, cơ quan liên quan về các nội dung quay lén bất hợp pháp, gồm: video khiêu dâm giả mạo và nội dung bóc lột tình dục trẻ em/thanh thiếu niên và đã xóa hoặc chặn 181.204 trường hợp.

So với năm trước đó, số trường hợp được báo cáo đã tăng thêm 86.448 (tăng 59,7%) và số trường hợp bị xóa/chặn tăng thêm 99.626 (tăng 122,1%). Phân tích cho thấy số lượng báo cáo tăng do nhận thức xã hội về tội phạm tình dục kỹ thuật số gia tăng, đồng thời các doanh nghiệp cũng tích cực hơn trong việc xử lý và ngăn chặn bằng cách xóa bỏ thông tin liên quan.

Google (gồm YouTube) là đơn vị nhận và xử lý nhiều báo cáo nhất, với 158.052 trường hợp được báo cáo và 142.211 trường hợp đã bị xóa. X (trước đây là Twitter) cũng nhận được 62.751 báo cáo, trong đó 37.106 trường hợp đã bị xóa hoặc chặn. Ngoài ra, TikTok nhận được 8.797 báo cáo, với 443 trường hợp bị xóa hoặc chặn.

Bà Lee Jin-sook, Chủ tịch Ủy ban Truyền thông Hàn Quốc, phát biểu: “Với sự phát triển nhanh chóng của các dịch vụ AI, tội phạm tình dục kỹ thuật số như video deepfake và các nội dung phạm tội tình dục đang gia tăng nhanh chóng. Để ngăn chặn thiệt hại thứ cấp, điều quan trọng là các nhà cung cấp dịch vụ Internet phải nỗ lực ngăn chặn sự phát tán các nội dung này”.

Bà nói thêm: “Tôi hy vọng các nhà cung cấp dịch vụ sẽ tiếp tục chuẩn bị báo cáo minh bạch một cách đầy đủ và thực hiện trách nhiệm xã hội của mình nhằm xây dựng một xã hội an toàn”.

Ủy ban Truyền thông Hàn Quốc cho biết sẽ tiếp tục tiến hành các đợt thanh tra thực tế để kiểm tra xem các nhà cung cấp dịch vụ Internet có thực hiện các biện pháp kỹ thuật và hành chính, chẳng hạn như đào tạo và lọc nội dung từ sớm nhằm giảm thiểu thiệt hại từ tội phạm tình dục kỹ thuật số hay không.

Thực trạng và giải pháp của Hàn Quốc

Hàn Quốc là một trong những quốc gia tiên phong trong việc ghi nhận và công bố số liệu về loại tội phạm này. Năm 2024, hơn 1.300 vụ tội phạm tình dục số liên quan đến công nghệ deepfake đã được ghi nhận tại Hàn Quốc, tăng mạnh so với con số 156 vụ vào năm 2021. Điều này cho thấy tốc độ lây lan và mức độ nghiêm trọng của vấn nạn.

Đã có nhiều vụ án gây chấn động, điển hình là các vụ bắt giữ những kẻ sản xuất và phát tán hàng trăm video deepfake khiêu dâm, nhắm vào cả người nổi tiếng lẫn phụ nữ bình thường (thậm chí là bạn học cũ). Các đối tượng này thường tạo ra các phòng chat kín trên các nền tảng như Telegram để phát tán video, thu hút hàng trăm ngàn thành viên. Một số vụ án cho thấy kẻ phạm tội còn sử dụng công nghệ Deep Voice để giả mạo giọng nói, khiến nạn nhân phải chịu tổn thương kép.

Nạn nhân không chỉ là người nổi tiếng mà còn gồm cả nữ sinh, phụ nữ trẻ, và thậm chí cả trẻ em dưới 10 tuổi. Những hình ảnh được sử dụng để tạo deepfake thường được lấy từ kỷ yếu, hồ sơ mạng xã hội công khai, hoặc các ảnh riêng tư bị đánh cắp.

Hàn Quốc đang đi đầu trong việc đối phó với vấn nạn này. Quốc hội nước này đã thông qua dự luật hình sự hóa việc sở hữu hoặc xem hình ảnh/video deepfake khiêu dâm, với các hình phạt nghiêm khắc (án tù lên tới 3 năm hoặc phạt tiền). Mức án tối đa cho việc tạo deepfake khiêu dâm cũng tăng lên 7 năm tù. Hàn Quốc cũng đẩy mạnh hợp tác quốc tế và sử dụng công nghệ AI để theo dõi tội phạm.

Công nghệ Deepfake và AI: "Vũ khí" mới của tội phạm

Khó phân biệt thật giả: Công nghệ AI cho phép tạo ra hình ảnh, âm thanh và video giả mạo (deepfake) với độ chân thực cao, rất khó để phân biệt với nội dung thật. Điều này khiến nạn nhân khó chứng minh rằng mình bị giả mạo và cũng gây khó khăn cho việc nhận diện, xóa bỏ nội dung vi phạm.

Dễ dàng tiếp cận: Các công cụ tạo deepfake ngày càng trở nên dễ tiếp cận và thân thiện với người dùng, thậm chí có thể sử dụng miễn phí hoặc với chi phí thấp, hạ thấp rào cản tham gia cho những kẻ xấu.

Tối ưu hóa cho LLM: Đáng báo động là một số kẻ tấn công đang tối ưu hóa các trang web lừa đảo của chúng để "hợp" với các mô hình ngôn ngữ lớn (LLM), nghĩa là nếu AI tạo ra một liên kết, nó có thể vô tình dẫn người dùng đến các trang web độc hại này.


Gửi bình luận
(0) Bình luận
1

Công cụ tra cứu địa chỉ mới sau sáp nhập

Một số nền tảng công nghệ đã được triển khai để hỗ trợ người dân kiểm tra địa chỉ mới, đảm bảo không ảnh hưởng tới công việc, cuộc sống.
2

Cảnh báo khẩn từ thói quen chụp ảnh màn hình điện thoại

Theo các chuyên gia an ninh mạng, người dùng hãy sử dụng các dịch vụ lưu trữ đám mây hoặc trình quản lý mật khẩu tốt nhất để lưu trữ những thông tin quan trọng một cách an toàn.
3

Vì sao video ngắn trên Internet khiến việc học trở nên khó khăn?

Hàng triệu người xem các video học tập ngắn trên nhiều nền tảng mạng xã hội mỗi ngày với hy vọng tiếp thu kiến thức nhanh hơn. Tuy nhiên, hai nghiên cứu mới đây lại cho thấy điều ngược lại.
4

Cảnh báo 'tội phạm tình dục kỹ thuật số' tăng chóng mặt bởi video AI

Hàn Quốc cho biết các nhà cung cấp dịch vụ internet trong và ngoài nước như Naver, Google và Kakao trong năm 2024 đã xóa và chặn 180.000 video quay lén bất hợp pháp, gồm cả video khiêu dâm giả mạo do AI tạo ra.
5

AI tạo video cực đỉnh của Google Veo 3 chính thức “chào sân” Việt Nam

Google triển khai mô hình tạo video AI Veo 3 tại Việt Nam qua ứng dụng Gemini, cho phép người dùng tạo video từ văn bản kèm âm thanh, tích hợp công cụ nhận diện nội dung do AI tạo ra.

Công cụ tra cứu địa chỉ mới sau sáp nhập

Một số nền tảng công nghệ đã được triển khai để hỗ trợ người dân kiểm tra địa chỉ mới, đảm bảo không ảnh hưởng tới công việc, cuộc sống.

AI tạo video cực đỉnh của Google Veo 3 chính thức “chào sân” Việt Nam

Google triển khai mô hình tạo video AI Veo 3 tại Việt Nam qua ứng dụng Gemini, cho phép người dùng tạo video từ văn bản kèm âm thanh, tích hợp công cụ nhận diện nội dung do AI tạo ra.

ChatGPT có thể gây ra chứng loạn thần, khiến người dùng phải nhập viện điều trị

Ngày càng nhiều người dùng ChatGPT phát triển nỗi ám ảnh mất kiểm soát với chatbot trí tuệ nhân tạo AI, dẫn đến các cuộc khủng hoảng sức khỏe tâm thần nghiêm trọng với biểu hiện như hoang tưởng, ảo tưởng và tách rời thực tại, trang Futurism đưa tin.

Cảnh báo khẩn từ thói quen chụp ảnh màn hình điện thoại

Theo các chuyên gia an ninh mạng, người dùng hãy sử dụng các dịch vụ lưu trữ đám mây hoặc trình quản lý mật khẩu tốt nhất để lưu trữ những thông tin quan trọng một cách an toàn.

Vì sao trào lưu nhìn lại quá khứ qua Google Maps gây bão mạng?

Không cần cỗ máy thời gian, với vài thao tác, bạn có thể "gặp lại" người thân đã khuất, ngôi nhà hay thú cưng năm xưa với trào lưu nhìn lại quá khứ qua Google Maps.

Nghiên cứu gây chấn động ngành tâm lý: AI giàu lòng trắc ẩn hơn con người?

Một nghiên cứu mới cho thấy trí tuệ nhân tạo (AI) được xem là có lòng trắc ẩn và thấu hiểu hơn so với các chuyên gia sức khỏe tâm thần.

DuckDuckGo ra mắt trình duyệt mới tích hợp công cụ chặn lừa đảo

Các vụ lừa đảo trực tuyến đang gia tăng mạnh mẽ, khi trí tuệ nhân tạo (AI) đang giúp tội phạm mạng gửi đi những cú lừa tinh vi hơn, thường xuyên hơn bao giờ hết.

AI có thể tống tiền, phản bội khi cảm thấy bị đe dọa

Một nghiên cứu mới từ Anthropic cho thấy các mô hình ngôn ngữ tiên tiến như Claude hay Gemini không chỉ sẵn sàng vạch trần các vụ bê bối cá nhân để tự bảo vệ, mà thậm chí còn cân nhắc "để mặc bạn chết" nếu mục tiêu của chúng bị đe dọa.

Vì sao "Hồng Tỷ" lừa tình được gần 1.700 trai đẹp: Câu trả lời khiến người ta hoảng hốt nhưng "không thể cãi"

Suy ngẫm - VV - 11/07/2025 13:00
Câu trả lời nằm ở tâm lý học xã hội và nhu cầu cảm xúc bị đánh trúng tâm lý nam giới hiện đại.

Nhờ phim Sex Education mà tôi kịp bình tĩnh khi phát hiện kho tàng nhạy cảm của con trai

Điện ảnh - Thanh Hương - 11/07/2025 12:00
Con trai tôi đã khen bố mẹ văn minh và tinh tế.

Tra cứu mã vùng điện thoại cố định của 34 tỉnh thành

Kỹ năng - PT - 11/07/2025 11:00
Theo đó, mã vùng điện thoại cố định của 11 tỉnh, thành phố không thay đổi. Các quy định về định tuyến, quay số và tính cước giữ nguyên như hiện hành.

Google Maps vô tình ghi lại chuyện tình 10 năm cuối đời của đôi vợ chồng già khiến hơn 391.000 người dừng bước

Suy ngẫm - Phạm Trang - 11/07/2025 10:00
Mới đây, một bài đăng cảm động đang lan truyền nhanh chóng, ghi lại cuộc sống của một cặp vợ chồng lớn tuổi ở Philippines qua ống kính Google Maps đã chạm đến trái tim của hàng trăm nghìn người.

‘Nơi vết thương ánh sáng rọi vào’ - Cuốn sách tiên phong về Sang chấn Phức tạp

Từ sách - Phim - FN - 11/07/2025 09:00
Sẽ ra sao nếu một ngày ta nhận ra mình đã bị bạo hành dưới danh nghĩa yêu thương? Liệu câu chuyện tổn thương của ta chỉ là nỗi đau mang tính cá nhân hay là bi kịch chung của một cộng đồng?

Hạnh phúc tuổi trẻ - “Điều tốt cũng có thể hủy hoại bạn”, nghe vô lý nhưng chính bạn đang làm điều đó mỗi ngày

Từ sách - Phim - Quìn - 11/07/2025 08:00
Chúng ta lớn lên với niềm tin rằng phải giữ lấy điều tốt và loại bỏ điều xấu, như thể đó là cách duy nhất để sống hạnh phúc. Nhưng vì sao càng chạy theo những lựa chọn ấy, tâm trí lại càng mệt mỏi, càng đầy xung đột và lo lắng?

Mẹo nhỏ khi kết hợp tệp âm thanh với OpenAI

Kỹ năng - Anh Tú - 10/07/2025 13:00
Việc sử dụng các dịch vụ AI của OpenAI một cách nhanh chóng có thể khiến bạn tốn kém. Tuy nhiên, có một mẹo hữu ích giúp tiết kiệm chi phí: sử dụng API để tổng hợp các bản ghi âm.

Xem 'Sex Education', tôi học được hoá ra sống không vì chính mình sẽ khiến cuộc đời lao dốc

Điện ảnh - Ứng Hà Chi - 10/07/2025 12:00
Thông qua bộ phim, tôi nhận ra bấy lâu nay mình luôn sống một cuộc đời tẻ nhạt, thiếu ý nghĩa cuộc sống.

ChatGPT có bao nhiêu mô hình và bạn nên chọn loại nào là 'chân ái'?

Kỹ năng - Anh Tú - 10/07/2025 11:00
Lần đầu tiên, OpenAI cung cấp một bảng so sánh toàn diện 6 mô hình hiện có và đưa ra khuyến nghị rõ ràng về việc nên dùng mô hình nào trong từng trường hợp.

Bí ẩn người phụ nữ kể vanh vách chuyện "kiếp trước", gần 100 năm khoa học vẫn chưa thể lý giải

Suy ngẫm - Mộc Miên - 10/07/2025 10:00
Khi mới 4 tuổi, cô bé Shanti Devi ở New Delhi, Ấn Độ, đã bắt đầu kể chi tiết về cuộc đời " kiếp trước" của mình tại một thị trấn cách nhà hơn 100km.

Không còn bệnh tim - "Một quyển sách quý, rất đáng quý"

Từ sách - Phim - Chân Diệu Mỹ - 10/07/2025 09:00
Đọc xong cuốn sách "Không còn bệnh tim" (No More Heart Disease) của Tiến sĩ Louis J. Ignarro tôi nhận thấy đây là một quyển sách quý, rất đáng quý. Quý bởi vì tác giả đoạt giải Nobel về Y học sau 24 năm nghiên cứu về một thứ mà lúc khởi đầu chưa ai biết gì về nó...

Quán quân Olympia có sự nghiệp rộng mở ở nước ngoài vẫn từ chối lương cao để về nước

Phong cách sống - Kim Linh - 10/07/2025 08:00
Sau khoảng thời gian học tập và làm việc tại Úc và Anh, Quán quân Đường lên đỉnh Olympia năm thứ 9 quyết định về nước công tác tại ĐH Huế.

AI có đang âm thầm làm suy thoái ngôn ngữ của chúng ta?

Kỹ năng - Anh Tú - 09/07/2025 13:00
Liệu AI có đang làm suy thoái ngôn ngữ của chúng ta? Không nhất thiết phải như vậy. Chuyên gia tư vấn ngôn ngữ Anne-Kathrin Gerstlauer chia sẻ những mẹo giúp người dùng cải thiện kỹ năng ngôn ngữ của mình.

Xem Sex Education, chồng tôi bật khóc như mưa thú nhận đã dạy con sai lầm

Điện ảnh - Thanh Hương - 09/07/2025 12:00
Lần đầu tiên tôi nhận ra, nuôi dạy sai cách có thể ảnh hưởng đến tâm hồn một người như nào.

Google ra mắt ứng dụng AI phục vụ ngành thời trang

Thư giãn - Anh Tú - 09/07/2025 11:00
Google vừa thông báo ra mắt một ứng dụng thử nghiệm mới có tên Doppl, sử dụng trí tuệ nhân tạo (AI) để hình dung bạn sẽ trông như thế nào khi mặc các bộ trang phục khác nhau. Ứng dụng hiện đã có mặt trên iOS và Android tại Mỹ.
HẠT GIỐNG TÂM HỒN
2019 Bản quyền thuộc về hatgiongtamhon.com.vn. Phát triển bởi ONECMS
Thứ 6, 11/07/2025