Cơn ác mộng deepfake ở Hàn Quốc: Khi hình ảnh AI giả mạo phá hủy cuộc đời thật

Nhật Hạ (Theo CNN)03/05/2025 12:00
Cơn ác mộng deepfake ở Hàn Quốc: Khi hình ảnh AI giả mạo phá hủy cuộc đời thật

Hàn Quốc đang đối mặt với làn sóng tội phạm deepfake ngày càng gia tăng, trong đó, các công nghệ AI được sử dụng để tạo ra hình ảnh và video giả mạo, thường nhắm vào phụ nữ, bao gồm cả học sinh, giáo viên và người nổi tiếng.

Những nội dung này thường được chia sẻ trên các nền tảng như Telegram, gây ra sự phẫn nộ trong cộng đồng và yêu cầu chính phủ Hàn cần hành động pháp lý mạnh hơn.​

Vào mùa hè 2021, Ruma (tên nhân vật đã được thay đổi để bảo vệ quyền riêng tư - CNN) đang ăn trưa thì điện thoại của cô bỗng dồn dập tin nhắn đến. Khi mở ra xem, cô bàng hoàng: ảnh gương mặt cô bị lấy từ mạng xã hội, ghép lên một cơ thể khỏa thân và phát tán trong một phòng chat trên ứng dụng Telegram.

Những bình luận trong ảnh chụp màn hình của phòng chat đầy xúc phạm và thô tục - giống như những tin nhắn từ kẻ nặc danh đã gửi ảnh cho cô.

Sự quấy rối leo thang với những lời đe dọa sẽ phát tán hình ảnh của cô rộng rãi hơn và nhạo báng rằng cảnh sát sẽ không thể tìm ra thủ phạm. Kẻ gửi tin nhắn dường như biết rõ thông tin cá nhân của Ruma, nhưng cô không thể xác định được danh tính hắn.

“Tôi bị tấn công bởi hàng loạt hình ảnh mà chưa tôi từng dám tưởng tượng trong đời,” Ruma chia sẻ với CNN.

anh-man-hinh-2025-04-26-luc-14.16.06.png
Nội dung cợt nhả đã gửi đến Ruma - Ảnh: Chụp màn hình video

Mặc dù "revenge porn" (phát tán hình ảnh nhạy cảm mà không được sự đồng thuận) đã tồn tại từ rất lâu, sự bùng nổ của công nghệ AI khiến bất kỳ ai cũng có thể trở thành nạn nhân của deepfake khiêu dâm, dù họ chưa bao giờ chụp hay gửi ảnh nude.

Hàn Quốc từng đối mặt với nhiều vụ tội phạm tình dục kỹ thuật số, từ camera ẩn trong nhà vệ sinh công cộng cho đến các phòng chat trên Telegram ép buộc phụ nữ và trẻ em gái quay clip nhạy cảm.

Giờ đây, deepfake đang mở ra một mối đe dọa mới, đặc biệt nghiêm trọng tại trường học. Theo báo cáo từ Bộ Giáo dục Hàn Quốc, từ tháng 1 đến đầu tháng 11.2024, hơn 900 học sinh, giáo viên và nhân viên trường học đã báo cáo bị deepfake tấn công tình dục. Con số này chưa bao gồm các trường đại học, nơi cũng ghi nhận nhiều vụ việc tương tự.

Để đối phó với tình trạng này, Bộ Giáo dục thành lập lực lượng phản ứng khẩn cấp. Tháng 9.2024, Quốc hội Hàn Quốc thông qua sửa đổi luật: sở hữu hoặc xem nội dung deepfake khiêu dâm có thể bị phạt tù tối đa 3 năm hoặc phạt tiền lên đến 30 triệu won(tương đương 20.000 USD); tạo hoặc phát tán hình ảnh deepfake khiêu dâm không có sự đồng thuận có thể bị phạt tù tối đa 7 năm, tăng từ mức 5 năm trước đó.

Cảnh sát quốc gia Hàn Quốc kêu gọi toàn lực lượng “đi đầu trong việc xóa sổ hoàn toàn tội phạm deepfake tình dục”. Cũng trong năm này, từ tháng 1 - 10, trong 964 vụ việc được báo cáo, cảnh sát chỉ bắt được 23 người.

Nghị sĩ Kim Nam-hee nói với CNN: “Điều tra và trừng phạt hiện nay còn quá thụ động.” Vì vậy, một số nạn nhân như Ruma đã phải tự tiến hành điều tra.

Nạn nhân tự hành động

Khi bị tấn công, Ruma mới 27 tuổi và còn là sinh viên đại học. Khi cô đến trình báo với cảnh sát, họ chỉ hứa sẽ yêu cầu Telegram cung cấp thông tin người dùng, nhưng cũng cảnh báo Telegram thường không không hợp tác.

Vốn là một sinh viên hoạt bát, yêu đời, vụ việc khiến cuộc sống cô hoàn toàn thay đổi. “Nó làm sụp đổ toàn bộ niềm tin của tôi về thế giới. Việc họ có thể dùng hình ảnh thô tục, tàn bạo để làm nhục bạn tới mức đó gây tổn thương gần như không thể phục hồi", Ruma nói.

Sau khi biết rằng nhiều cuộc điều tra bị khép lại chỉ sau vài tháng vì “khó xác định nghi phạm”, Ruma quyết định tự hành động. Cô cùng một số sinh viên khác tìm đến Won Eun-ji, nhà hoạt động từng vạch trần nhóm tội phạm tình dục kỹ thuật số lớn nhất Hàn Quốc trên Telegram vào năm 2020.

Won tạo tài khoản giả, giả danh một người đàn ông ngoài 30 tuổi để xâm nhập phòng chat deepfake. Suốt gần hai năm, Won âm thầm thu thập thông tin, trò chuyện với các thành viên trước khi phối hợp với cảnh sát thực hiện một cuộc "đánh úp".

Khi cảnh sát đối mặt với nghi phạm, Won gửi tin nhắn Telegram cho hắn. Điện thoại hắn reo lên - hắn bị bắt quả tang.

anh-man-hinh-2025-04-26-luc-14.16.20.png
Won - nhà hoạt động xã hội - Ảnh: CNN

Tháng 5 năm ngoái, hai cựu sinh viên trường Đại học Quốc gia Seoul (SNU) bị bắt. Kẻ chủ mưu bị kết án 9 năm tù vì sản xuất và phát tán nội dung khiêu dâm. Một đồng phạm khác lãnh án 3,5 năm tù. Cảnh sát xác định ít nhất 61 nạn nhân, trong đó có 12 sinh viên và cựu sinh viên SNU.

Trong một bản trích lục phán quyết mà luật sư của Ruma chia sẻ, tòa tuyên: “Các tài liệu khiêu dâm giả được tạo ra bởi bị cáo thật kinh tởm, và những cuộc trò chuyện xung quanh chúng gây sốc... Chúng nhắm vào các nạn nhân như đang săn mồi, sỉ nhục và hủy hoại nhân phẩm họ bằng cách sử dụng ảnh tốt nghiệp, ảnh cưới và ảnh gia đình”.

Ruma chia sẻ với CNN sau phán quyết: “Tôi rất mừng, nhưng đây chỉ mới là phiên tòa sơ thẩm. Tôi chưa thể hoàn toàn yên tâm".

hội thiếu cảm thông

Một giáo viên trung học tên Kim kể với CNN rằng cô phát hiện mình bị nhắm tới vào tháng 7.2023, khi một học sinh cho cô xem ảnh chụp màn hình Twitter chứa ảnh cô bị chụp lén trong lớp học, tập trung vào cơ thể cô. “Tay tôi bắt đầu run rẩy,” Kim nhớ lại.
Hai ngày sau, sự việc trở nên tồi tệ hơn: tóc cô bị chỉnh cho rối bù, cơ thể bị sửa để trông như đang quay lại, và khuôn mặt cô bị ghép vào ảnh nude.

Cảnh sát cho biết cách duy nhất để tìm thủ phạm là yêu cầu Twitter (nay là X) cung cấp thông tin người dùng - nhưng thủ tục này phức tạp và lâu.

Không chờ đợi, Kim cùng một đồng nghiệp (cũng là nạn nhân) tự điều tra. Kết quả, họ xác định được thủ phạm: một học sinh ít nói, trầm tính mà “không ai ngờ tới”.

Dù thủ phạm đã bị truy tố, Kim cho biết cuộc đời cô sẽ không bao giờ trở lại như trước. Cô cũng bức xúc và sốc trước sự thiếu cảm thông qua bình luận của một số người.

“Tôi đọc nhiều bình luận kiểu ‘Deepfake có phải cơ thể thật đâu mà làm lớn chuyện?", Kim nói.

Theo chính sách hiện hành của X, để lấy thông tin người dùng cần có trát tòa, lệnh của tòa án hoặc văn bản hợp pháp từ cơ quan thực thi pháp luật.

Áp lực lên các nền tảng số

Won cho biết trong thời gian dài, việc phát tán nội dung tình dục về phụ nữ ở Hàn Quốc không bị coi là trọng tội. Dù phim khiêu dâm bị cấm nhưng việc thực thi luật lỏng lẻo khiến tội phạm tình dục số tràn lan.

Một hành vi phổ biến là “nhục mạ người quen” bằng việc thủ phạm chia sẻ ảnh và thông tin cá nhân của phụ nữ họ quen, rồi kêu gọi tạo hoặc chia sẻ deepfake.

Hành vi này khiến các nạn nhân sống trong sợ hãi vì thủ phạm nắm thông tin địa chỉ, nơi làm việc, thậm chí là chi tiết về gia đình họ.

Sau vụ bê bối lớn năm 2020, mạng lưới tội phạm tình dục trên Telegram thu hẹp khi bị điều tra, nhưng lại nở rộ trở lại khi nhà chức trách "lơi tay".

Tất cả các nạn nhân CNN phỏng vấn đều yêu cầu hình phạt nặng hơn. Kim - một nạn nhân đã nhấn mạnh: “Ngăn chặn là quan trọng, nhưng cần xét xử nghiêm khắc các vụ việc xảy ra".

anh-man-hinh-2025-04-26-luc-14.16.39.png
Kim - một giáo viên là nạn nhân của deepfake và thủ phạm chính là một học sinh - Ảnh: CNN

Nền tảng trực tuyến cũng đang chịu áp lực phải hành động

Telegram - nơi chứa nhiều nội dung tội phạm kỹ thuật số - tuyên bố sẽ bắt đầu chia sẻ dữ liệu người dùng với cơ quan chức năng.

Thông báo này được đưa ra sau khi CEO của Telegram, Pavel Durov, bị bắt tại Pháp vào tháng 8 vì lệnh truy nã liên quan đến việc không kiểm soát nội dung bất hợp pháp.

Tháng 9 năm ngoái, cơ quan quản lý truyền thông Hàn Quốc cho biết Telegram đã đồng ý thiết lập đường dây nóng để gỡ bỏ nội dung bất hợp pháp, và đã xóa 148 video liên quan đến tội phạm tình dục số theo yêu cầu.

Dù hoan nghênh động thái này, Won vẫn tỏ ra hoài nghi, cho rằng nếu Telegram không cải thiện nhanh chóng, chính phủ nên xóa ứng dụng khỏi các cửa hàng app.

Tháng 1 năm nay, lần đầu tiên chính quyền Hàn Quốc thành công trong việc thu thập dữ liệu tội phạm từ Telegram.

Cảnh sát Seoul bắt giữ 14 người (gồm 6 người chưa thành niên), cáo buộc khai thác tình dục hơn 200 nạn nhân.

Hơn 70 người khác đang bị điều tra vì sản xuất và chia sẻ nội dung deepfake. Trong khi đó, các nạn nhân chia sẻ với CNN rằng họ mong muốn trong tương lai cảnh sát và tòa án sẽ hỗ trợ nạn nhân nhiều hơn.

Cuối cùng, Ruma nói: “Dù hình phạt có được tăng nặng, vẫn còn quá nhiều nạn nhân đau khổ vì thủ phạm chưa bị bắt. Do đó, bản án hôm nay vẫn chưa thực sự là một sự thay đổi hay công lý. Chúng ta còn cả một chặng đường dài phải đi".

Một trường hợp đáng chú ý là Johnny Somali (SN 2000), một YouTuber người Mỹ, đã bị buộc tội tại Hàn Quốc vì tạo ra một video deepfake khiêu dâm không đồng thuận, trong đó anh ta xuất hiện cùng một nữ streamer Hàn Quốc.

Người này hiện đang đối mặt với nhiều cáo buộc, bao gồm cả tội phạm tình dục và cản trở kinh doanh. Đến tháng 5 năm nay, người này sẽ được tòa án của Hàn Quốc đưa ra xét xử.

 


Gửi bình luận
(0) Bình luận
1

Dấu hiệu nhận biết quý nhân bên cạnh bạn: Đó là những người có tầm nhìn dài hạn

Những người thực sự tuyệt vời là những người có tầm nhìn dài hạn.
2

Nghịch lý: Tại sao bạn bè ngày nhỏ rất thân, lớn lên lại tỏ ra không quen biết?

Tình bạn cũng giống như một cái cây. Nếu không được chăm sóc, tưới nước thường xuyên, nó sẽ dần khô héo.
3

Ký ức về hòa bình

Nhiếp ảnh gia người Pháp Nicolas Cornet đã có gần 40 năm gắn bó với Việt Nam trên mọi nẻo đường. Ông nhớ lại và suy ngẫm về những ký ức của chiến tranh và hòa bình nhân nửa thế kỷ Ngày Giải phóng miền Nam, thống nhất đất nước.
4

Từ năm 2025 trở đi, điều thực sự khiến bạn thất nghiệp chính là ‘tâm lý DeepSeek, tâm lý Chat GPT’

Tâm lý DeepSeek, tâm lý Chat GPT khiến bạn mất đi 2 điều quý giá nhất đối với con người trong quá trình học tập và làm việc: Thói quen suy nghĩ độc lập và kiên trì học tập suốt đời. Cứ thế, AI sẽ ‘đá bay’ bạn ra khỏi chốn công sở.
5

Tỷ phú Rockefeller chia sẻ 9 bí quyết đáng kinh ngạc cho con cháu

"Quan trọng nhất là để cho người khác thả lỏng cảnh giác. Sau đó, chúng ta tóm lấy cơ hội, lặng lẽ đứng đầu và khiến mọi người kinh ngạc. Nếu làm được, con sẽ dễ thành đại sự”, ông trùm kinh doanh đã âm thầm chia sẻ những bí quyết đáng kinh ngạc cho con cháu.

Tỷ phú Rockefeller chia sẻ 9 bí quyết đáng kinh ngạc cho con cháu

"Quan trọng nhất là để cho người khác thả lỏng cảnh giác. Sau đó, chúng ta tóm lấy cơ hội, lặng lẽ đứng đầu và khiến mọi người kinh ngạc. Nếu làm được, con sẽ dễ thành đại sự”, ông trùm kinh doanh đã âm thầm chia sẻ những bí quyết đáng kinh ngạc cho con cháu.

Ký ức về hòa bình

Nhiếp ảnh gia người Pháp Nicolas Cornet đã có gần 40 năm gắn bó với Việt Nam trên mọi nẻo đường. Ông nhớ lại và suy ngẫm về những ký ức của chiến tranh và hòa bình nhân nửa thế kỷ Ngày Giải phóng miền Nam, thống nhất đất nước.

Nghịch lý: Tại sao bạn bè ngày nhỏ rất thân, lớn lên lại tỏ ra không quen biết?

Tình bạn cũng giống như một cái cây. Nếu không được chăm sóc, tưới nước thường xuyên, nó sẽ dần khô héo.

Dấu hiệu nhận biết quý nhân bên cạnh bạn: Đó là những người có tầm nhìn dài hạn

Những người thực sự tuyệt vời là những người có tầm nhìn dài hạn.

Từ năm 2025 trở đi, điều thực sự khiến bạn thất nghiệp chính là ‘tâm lý DeepSeek, tâm lý Chat GPT’

Tâm lý DeepSeek, tâm lý Chat GPT khiến bạn mất đi 2 điều quý giá nhất đối với con người trong quá trình học tập và làm việc: Thói quen suy nghĩ độc lập và kiên trì học tập suốt đời. Cứ thế, AI sẽ ‘đá bay’ bạn ra khỏi chốn công sở.

Giữa làn sóng AI, thứ giết chết con người không phải Chat GPT, DeepSeek,... mà là lối tư duy này

DeepSeek giống như cần sa, nó có tác dụng giảm đau. Nhưng một khi bạn bị nghiện, nó sẽ chỉ gây tổn hại đến não và khiến bạn hoàn toàn mất khả năng suy nghĩ.

Học hỏi 14 thói quen của những người sáng tạo để trở nên sáng tạo hơn

Nếu bạn đang mắc kẹt trong bài tập hoặc dường như không thể hoàn thành một tác phẩm nghệ thuật, hãy tập trung xây dựng những thói quen sau đây của những người sáng tạo. Theo thời gian, bạn sẽ học được cách sáng tạo nhanh hơn, dễ dàng hơn và lâu dài hơn.

Sau tuổi 40, nhìn vào 4 điểm này là biết nửa đời sau sung sướng hay bất hạnh

Đây đều là thói quen sống cấp cao mà ít người làm được!

Cơn ác mộng deepfake ở Hàn Quốc: Khi hình ảnh AI giả mạo phá hủy cuộc đời thật

Suy ngẫm - Nhật Hạ (Theo CNN) - 03/05/2025 12:00
Hàn Quốc đang đối mặt với làn sóng tội phạm deepfake ngày càng gia tăng, trong đó, các công nghệ AI được sử dụng để tạo ra hình ảnh và video giả mạo, thường nhắm vào phụ nữ, bao gồm cả học sinh, giáo viên và người nổi tiếng.

Cái Bang hay Thiếu Lâm, đâu là nơi xuất phát của Hàng Long Thập Bát Chưởng?

Thư giãn - Nguyệt Phạm - 03/05/2025 11:00
Hàng Long Thập Bát Chưởng, tuyệt kỹ võ công lừng lẫy trong thế giới võ hiệp Kim Dung, luôn là đề tài gây tranh cãi về nguồn gốc thực sự của nó.

Nhặt đứa trẻ sơ sinh bị bỏ rơi giữa trời lạnh giá, nhiều năm sau người đàn ông nhận về một thứ

Truyền cảm hứng - Đông - 03/05/2025 10:00
Cái kết của câu chuyện này khiến ai đọc xong cũng cảm thấy ấm áp.

Gia Định là nhớ Sài Gòn là thương - Thương nhớ mảnh đất Sài Gòn - Gia Định qua từng trang ký ức

Từ sách - Phim - Đan Thanh - 03/05/2025 09:00
"Gia Định là nhớ, Sài Gòn là thương" tập hợp những bài viết của nhà báo Cù Mai Công về TP. HCM trong hai thời kỳ: TPHCM trước năm 1975 và Gia Định thời "rừng rậm, đầm lầy", qua đó thủ thỉ với người đọc bằng những ký ức về một vùng đất nhân hậu và thân thương.

Putin - Logic của quyền lực - Tôn giáo trong chiến lược quyền lực của Vladimir Putin

Từ sách - Phim - TĐ - 03/05/2025 08:00
Đã sau nửa đêm khi ông chủ nhà nghỉ mời tôi một chuyến tham quan nhỏ trên phần đất thênh thang của Novo-Ogaryovo. Chạy chỉ vài trăm mét, ô tô đỗ lại trước một kiến trúc tối nhỏ. Vladimir Putin mở cửa, bật đèn và làm dấu thánh.

Tỷ phú Rockefeller chia sẻ 9 bí quyết đáng kinh ngạc cho con cháu

Suy ngẫm - Thùy Linh - 02/05/2025 13:00
"Quan trọng nhất là để cho người khác thả lỏng cảnh giác. Sau đó, chúng ta tóm lấy cơ hội, lặng lẽ đứng đầu và khiến mọi người kinh ngạc. Nếu làm được, con sẽ dễ thành đại sự”, ông trùm kinh doanh đã âm thầm chia sẻ những bí quyết đáng kinh ngạc cho con cháu.

Góc khuất giản dị của Youtube

Thư giãn - Hà My - 02/05/2025 12:00
Ngay bên ngoài phạm vi chỉ đạo của thuật toán, phần lớn video trên YouTube cho thấy một khía cạnh gần như bị lãng quên - nơi mọi người đăng tải video chỉ kết nối và chia sẻ, thay vì kiếm lợi nhuận.

Kỷ nguyên SEO mới: Các thương hiệu bỏ Google, chuyển sang ChatGPT và chatbot AI

Kỹ năng - Sơn Vân - 02/05/2025 11:00
Các công ty quảng cáo áp dụng chiến lược mới để đảm bảo khách hàng xuất hiện trong câu trả lời của chatbot ChatGPT do OpenAI phát triển và Claude của Anthropic.

Góc nhìn chuyên gia: Hiện trạng giới trẻ dùng chatbot AI để giải tỏa tâm lý

Phong cách sống - Bùi Thị Thu Hương - 02/05/2025 10:00
Tôi không biết chia sẻ với ai. Nói với bố mẹ thì bị cho là “suy nghĩ vớ vẩn”. Bạn bè thì cũng có nỗi lo riêng. Nên tôi nói với... ChatGPT”.

Khi cuộc đời cho bạn quả quýt: Vòng lặp của phụ nữ Hàn Quốc mang theo vết thương từ thế hệ trước

Điện ảnh - Phạm Trang - 02/05/2025 09:00
When Life Gives You Tangerines - Khi cuộc đời cho bạn quả quýt, không chỉ là bộ phim về cuộc đời của một cặp đôi mà ẩn sau đó còn là cả những câu chuyện về nhiều thế hệ phụ nữ Hàn Quốc.

Sài Gòn một thuở - "Dân Ông Tạ đó!" - Tìm về vùng đất Ông Tạ qua ký ức của một Sài Gòn xưa

Từ sách - Phim - Đan Thanh - 02/05/2025 08:00
Ông Tạ là một phần của Sài Gòn một thuở. Ta vẫn thường nghe nhắc đến "ngã ba ông Tạ", nhưng "Ông Tạ" thực sự là ai thì ít người hiểu rõ.

‘Lật Mặt 8’ sâu sắc hóa tình thân: Bước tiến mới trong nghệ thuật kể chuyện của Lý Hải

Điện ảnh - Yến Hồ - 01/05/2025 12:00
Thương hiệu "Lật Mặt" dưới bàn tay nhào nặn của Lý Hải chưa bao giờ ngừng gây bất ngờ. Với Lật mặt 8: Vòng tay nắng, khán giả tiếp tục bước vào một hành trình sâu lắng, cảm động về tình cảm gia đình, một đề tài tưởng chừng quen thuộc nhưng lại được khai thác với góc nhìn đậm chất điện ảnh, mới mẻ và đong đầy năng lượng tích cực.

Sau Internet và iPhone, dự đoán của Kurzweil khiến chúng ta phải giật mình

Kỹ năng - Nam Đoàn - 01/05/2025 11:00
Người đàn ông này đã dự đoán đúng sự ra đời của Internet và iPhone, giờ đây đang phác thảo một tương lai nơi cái chết có thể bị vượt qua và suy nghĩ của bạn tồn tại trên lưu trữ đám mây.

Cô gái "không tay" và hành trình tỏa sáng trở thành chuyên gia trang điểm

Truyền cảm hứng - Thanh Thanh - 01/05/2025 10:00
Câu chuyện về Xu Fangyan (Từ Phương Nghiên) - 28 tuổi, tỉnh Tứ Xuyên, Trung Quốc, người phụ nữ không may mất đi đôi tay sau một tai nạn điện giật kinh hoàng đã truyền cảm hứng mạnh mẽ cho cộng đồng mạng.

Podcast: Chân trần chí thép - Chí thép của người Việt

Từ sách - Phim - FN - 01/05/2025 09:00
Điều gì đã làm nên sức mạnh phi thường của người Việt giữa chiến tranh? Chúng ta đang nói đến ý chí sống còn, thứ đã giúp con người trụ vững giữa mưa bom, bão đạn, trong lòng đất tối tăm – mà ánh sáng duy nhất là lòng yêu nước và khát vọng tự do.
HẠT GIỐNG TÂM HỒN
2019 Bản quyền thuộc về hatgiongtamhon.com.vn. Phát triển bởi ONECMS
Thứ 7, 03/05/2025