Cơn ác mộng deepfake ở Hàn Quốc: Khi hình ảnh AI giả mạo phá hủy cuộc đời thật

Nhật Hạ (Theo CNN)03/05/2025 12:00
Cơn ác mộng deepfake ở Hàn Quốc: Khi hình ảnh AI giả mạo phá hủy cuộc đời thật

Hàn Quốc đang đối mặt với làn sóng tội phạm deepfake ngày càng gia tăng, trong đó, các công nghệ AI được sử dụng để tạo ra hình ảnh và video giả mạo, thường nhắm vào phụ nữ, bao gồm cả học sinh, giáo viên và người nổi tiếng.

Những nội dung này thường được chia sẻ trên các nền tảng như Telegram, gây ra sự phẫn nộ trong cộng đồng và yêu cầu chính phủ Hàn cần hành động pháp lý mạnh hơn.​

Vào mùa hè 2021, Ruma (tên nhân vật đã được thay đổi để bảo vệ quyền riêng tư - CNN) đang ăn trưa thì điện thoại của cô bỗng dồn dập tin nhắn đến. Khi mở ra xem, cô bàng hoàng: ảnh gương mặt cô bị lấy từ mạng xã hội, ghép lên một cơ thể khỏa thân và phát tán trong một phòng chat trên ứng dụng Telegram.

Những bình luận trong ảnh chụp màn hình của phòng chat đầy xúc phạm và thô tục - giống như những tin nhắn từ kẻ nặc danh đã gửi ảnh cho cô.

Sự quấy rối leo thang với những lời đe dọa sẽ phát tán hình ảnh của cô rộng rãi hơn và nhạo báng rằng cảnh sát sẽ không thể tìm ra thủ phạm. Kẻ gửi tin nhắn dường như biết rõ thông tin cá nhân của Ruma, nhưng cô không thể xác định được danh tính hắn.

“Tôi bị tấn công bởi hàng loạt hình ảnh mà chưa tôi từng dám tưởng tượng trong đời,” Ruma chia sẻ với CNN.

anh-man-hinh-2025-04-26-luc-14.16.06.png
Nội dung cợt nhả đã gửi đến Ruma - Ảnh: Chụp màn hình video

Mặc dù "revenge porn" (phát tán hình ảnh nhạy cảm mà không được sự đồng thuận) đã tồn tại từ rất lâu, sự bùng nổ của công nghệ AI khiến bất kỳ ai cũng có thể trở thành nạn nhân của deepfake khiêu dâm, dù họ chưa bao giờ chụp hay gửi ảnh nude.

Hàn Quốc từng đối mặt với nhiều vụ tội phạm tình dục kỹ thuật số, từ camera ẩn trong nhà vệ sinh công cộng cho đến các phòng chat trên Telegram ép buộc phụ nữ và trẻ em gái quay clip nhạy cảm.

Giờ đây, deepfake đang mở ra một mối đe dọa mới, đặc biệt nghiêm trọng tại trường học. Theo báo cáo từ Bộ Giáo dục Hàn Quốc, từ tháng 1 đến đầu tháng 11.2024, hơn 900 học sinh, giáo viên và nhân viên trường học đã báo cáo bị deepfake tấn công tình dục. Con số này chưa bao gồm các trường đại học, nơi cũng ghi nhận nhiều vụ việc tương tự.

Để đối phó với tình trạng này, Bộ Giáo dục thành lập lực lượng phản ứng khẩn cấp. Tháng 9.2024, Quốc hội Hàn Quốc thông qua sửa đổi luật: sở hữu hoặc xem nội dung deepfake khiêu dâm có thể bị phạt tù tối đa 3 năm hoặc phạt tiền lên đến 30 triệu won(tương đương 20.000 USD); tạo hoặc phát tán hình ảnh deepfake khiêu dâm không có sự đồng thuận có thể bị phạt tù tối đa 7 năm, tăng từ mức 5 năm trước đó.

Cảnh sát quốc gia Hàn Quốc kêu gọi toàn lực lượng “đi đầu trong việc xóa sổ hoàn toàn tội phạm deepfake tình dục”. Cũng trong năm này, từ tháng 1 - 10, trong 964 vụ việc được báo cáo, cảnh sát chỉ bắt được 23 người.

Nghị sĩ Kim Nam-hee nói với CNN: “Điều tra và trừng phạt hiện nay còn quá thụ động.” Vì vậy, một số nạn nhân như Ruma đã phải tự tiến hành điều tra.

Nạn nhân tự hành động

Khi bị tấn công, Ruma mới 27 tuổi và còn là sinh viên đại học. Khi cô đến trình báo với cảnh sát, họ chỉ hứa sẽ yêu cầu Telegram cung cấp thông tin người dùng, nhưng cũng cảnh báo Telegram thường không không hợp tác.

Vốn là một sinh viên hoạt bát, yêu đời, vụ việc khiến cuộc sống cô hoàn toàn thay đổi. “Nó làm sụp đổ toàn bộ niềm tin của tôi về thế giới. Việc họ có thể dùng hình ảnh thô tục, tàn bạo để làm nhục bạn tới mức đó gây tổn thương gần như không thể phục hồi", Ruma nói.

Sau khi biết rằng nhiều cuộc điều tra bị khép lại chỉ sau vài tháng vì “khó xác định nghi phạm”, Ruma quyết định tự hành động. Cô cùng một số sinh viên khác tìm đến Won Eun-ji, nhà hoạt động từng vạch trần nhóm tội phạm tình dục kỹ thuật số lớn nhất Hàn Quốc trên Telegram vào năm 2020.

Won tạo tài khoản giả, giả danh một người đàn ông ngoài 30 tuổi để xâm nhập phòng chat deepfake. Suốt gần hai năm, Won âm thầm thu thập thông tin, trò chuyện với các thành viên trước khi phối hợp với cảnh sát thực hiện một cuộc "đánh úp".

Khi cảnh sát đối mặt với nghi phạm, Won gửi tin nhắn Telegram cho hắn. Điện thoại hắn reo lên - hắn bị bắt quả tang.

anh-man-hinh-2025-04-26-luc-14.16.20.png
Won - nhà hoạt động xã hội - Ảnh: CNN

Tháng 5 năm ngoái, hai cựu sinh viên trường Đại học Quốc gia Seoul (SNU) bị bắt. Kẻ chủ mưu bị kết án 9 năm tù vì sản xuất và phát tán nội dung khiêu dâm. Một đồng phạm khác lãnh án 3,5 năm tù. Cảnh sát xác định ít nhất 61 nạn nhân, trong đó có 12 sinh viên và cựu sinh viên SNU.

Trong một bản trích lục phán quyết mà luật sư của Ruma chia sẻ, tòa tuyên: “Các tài liệu khiêu dâm giả được tạo ra bởi bị cáo thật kinh tởm, và những cuộc trò chuyện xung quanh chúng gây sốc... Chúng nhắm vào các nạn nhân như đang săn mồi, sỉ nhục và hủy hoại nhân phẩm họ bằng cách sử dụng ảnh tốt nghiệp, ảnh cưới và ảnh gia đình”.

Ruma chia sẻ với CNN sau phán quyết: “Tôi rất mừng, nhưng đây chỉ mới là phiên tòa sơ thẩm. Tôi chưa thể hoàn toàn yên tâm".

hội thiếu cảm thông

Một giáo viên trung học tên Kim kể với CNN rằng cô phát hiện mình bị nhắm tới vào tháng 7.2023, khi một học sinh cho cô xem ảnh chụp màn hình Twitter chứa ảnh cô bị chụp lén trong lớp học, tập trung vào cơ thể cô. “Tay tôi bắt đầu run rẩy,” Kim nhớ lại.
Hai ngày sau, sự việc trở nên tồi tệ hơn: tóc cô bị chỉnh cho rối bù, cơ thể bị sửa để trông như đang quay lại, và khuôn mặt cô bị ghép vào ảnh nude.

Cảnh sát cho biết cách duy nhất để tìm thủ phạm là yêu cầu Twitter (nay là X) cung cấp thông tin người dùng - nhưng thủ tục này phức tạp và lâu.

Không chờ đợi, Kim cùng một đồng nghiệp (cũng là nạn nhân) tự điều tra. Kết quả, họ xác định được thủ phạm: một học sinh ít nói, trầm tính mà “không ai ngờ tới”.

Dù thủ phạm đã bị truy tố, Kim cho biết cuộc đời cô sẽ không bao giờ trở lại như trước. Cô cũng bức xúc và sốc trước sự thiếu cảm thông qua bình luận của một số người.

“Tôi đọc nhiều bình luận kiểu ‘Deepfake có phải cơ thể thật đâu mà làm lớn chuyện?", Kim nói.

Theo chính sách hiện hành của X, để lấy thông tin người dùng cần có trát tòa, lệnh của tòa án hoặc văn bản hợp pháp từ cơ quan thực thi pháp luật.

Áp lực lên các nền tảng số

Won cho biết trong thời gian dài, việc phát tán nội dung tình dục về phụ nữ ở Hàn Quốc không bị coi là trọng tội. Dù phim khiêu dâm bị cấm nhưng việc thực thi luật lỏng lẻo khiến tội phạm tình dục số tràn lan.

Một hành vi phổ biến là “nhục mạ người quen” bằng việc thủ phạm chia sẻ ảnh và thông tin cá nhân của phụ nữ họ quen, rồi kêu gọi tạo hoặc chia sẻ deepfake.

Hành vi này khiến các nạn nhân sống trong sợ hãi vì thủ phạm nắm thông tin địa chỉ, nơi làm việc, thậm chí là chi tiết về gia đình họ.

Sau vụ bê bối lớn năm 2020, mạng lưới tội phạm tình dục trên Telegram thu hẹp khi bị điều tra, nhưng lại nở rộ trở lại khi nhà chức trách "lơi tay".

Tất cả các nạn nhân CNN phỏng vấn đều yêu cầu hình phạt nặng hơn. Kim - một nạn nhân đã nhấn mạnh: “Ngăn chặn là quan trọng, nhưng cần xét xử nghiêm khắc các vụ việc xảy ra".

anh-man-hinh-2025-04-26-luc-14.16.39.png
Kim - một giáo viên là nạn nhân của deepfake và thủ phạm chính là một học sinh - Ảnh: CNN

Nền tảng trực tuyến cũng đang chịu áp lực phải hành động

Telegram - nơi chứa nhiều nội dung tội phạm kỹ thuật số - tuyên bố sẽ bắt đầu chia sẻ dữ liệu người dùng với cơ quan chức năng.

Thông báo này được đưa ra sau khi CEO của Telegram, Pavel Durov, bị bắt tại Pháp vào tháng 8 vì lệnh truy nã liên quan đến việc không kiểm soát nội dung bất hợp pháp.

Tháng 9 năm ngoái, cơ quan quản lý truyền thông Hàn Quốc cho biết Telegram đã đồng ý thiết lập đường dây nóng để gỡ bỏ nội dung bất hợp pháp, và đã xóa 148 video liên quan đến tội phạm tình dục số theo yêu cầu.

Dù hoan nghênh động thái này, Won vẫn tỏ ra hoài nghi, cho rằng nếu Telegram không cải thiện nhanh chóng, chính phủ nên xóa ứng dụng khỏi các cửa hàng app.

Tháng 1 năm nay, lần đầu tiên chính quyền Hàn Quốc thành công trong việc thu thập dữ liệu tội phạm từ Telegram.

Cảnh sát Seoul bắt giữ 14 người (gồm 6 người chưa thành niên), cáo buộc khai thác tình dục hơn 200 nạn nhân.

Hơn 70 người khác đang bị điều tra vì sản xuất và chia sẻ nội dung deepfake. Trong khi đó, các nạn nhân chia sẻ với CNN rằng họ mong muốn trong tương lai cảnh sát và tòa án sẽ hỗ trợ nạn nhân nhiều hơn.

Cuối cùng, Ruma nói: “Dù hình phạt có được tăng nặng, vẫn còn quá nhiều nạn nhân đau khổ vì thủ phạm chưa bị bắt. Do đó, bản án hôm nay vẫn chưa thực sự là một sự thay đổi hay công lý. Chúng ta còn cả một chặng đường dài phải đi".

Một trường hợp đáng chú ý là Johnny Somali (SN 2000), một YouTuber người Mỹ, đã bị buộc tội tại Hàn Quốc vì tạo ra một video deepfake khiêu dâm không đồng thuận, trong đó anh ta xuất hiện cùng một nữ streamer Hàn Quốc.

Người này hiện đang đối mặt với nhiều cáo buộc, bao gồm cả tội phạm tình dục và cản trở kinh doanh. Đến tháng 5 năm nay, người này sẽ được tòa án của Hàn Quốc đưa ra xét xử.

 


Gửi bình luận
(0) Bình luận
1

10 điều mẹ chưa bao giờ kể với chúng ta

Chúng ta có thể nói với mẹ mọi thứ nhưng mẹ thì không vậy, có rất nhiều sự thật mẹ chưa bao giờ kể.
2

Nghiên cứu của ĐH Stanford: Tại sao ám ảnh lo âu trở thành ‘căn bệnh thời hiện đại’ và cách vượt qua

1-Chia tay người yêu ở tuổi 35 không có nghĩa là bạn sẽ cô độc mãi mãi, bị sa thải ở tuổi 40 không có nghĩa sẽ thất nghiệp tới cuối đời.
3

8 câu nói để đời của "huyền thoại đầu tư" Warren Buffett

Warren Buffett sẽ rời bỏ vị trí CEO Berkshire Hathaway vào cuối năm 2025. Dù về hậu trường, những câu nói kinh điển của ông vẫn là kim chỉ nam bất hủ cho giới đầu tư toàn cầu.
4

Sự cố 60 triệu người mất điện khiến tôi "sáng mắt": Có nhiều tiền mà lâm vào cảnh này cũng vô dụng

Việc bị ngắt kết nối đột ngột khiến cuộc sống của nhiều người bị ảnh hưởng, họ nhận ra mình đã phụ thuộc vào công nghệ quá nhiều.
5

Chuyên gia Đào Trung Thành: Đừng tin AI, đến Amazon cũng từng sai lầm khi tin tưởng AI

Ông Đào Trung Thành - Phó Viện trưởng Viện Công nghệ Blockchain và AI nhấn mạnh rằng AI chỉ là công nghệ, không có lương tâm, cảm xúc, luân lý. Vì vậy, các vấn đề về đạo đức đều do con người đưa vào AI.

Tỷ phú Rockefeller chia sẻ 9 bí quyết đáng kinh ngạc cho con cháu

"Quan trọng nhất là để cho người khác thả lỏng cảnh giác. Sau đó, chúng ta tóm lấy cơ hội, lặng lẽ đứng đầu và khiến mọi người kinh ngạc. Nếu làm được, con sẽ dễ thành đại sự”, ông trùm kinh doanh đã âm thầm chia sẻ những bí quyết đáng kinh ngạc cho con cháu.

Ký ức về hòa bình

Nhiếp ảnh gia người Pháp Nicolas Cornet đã có gần 40 năm gắn bó với Việt Nam trên mọi nẻo đường. Ông nhớ lại và suy ngẫm về những ký ức của chiến tranh và hòa bình nhân nửa thế kỷ Ngày Giải phóng miền Nam, thống nhất đất nước.

Nghịch lý: Tại sao bạn bè ngày nhỏ rất thân, lớn lên lại tỏ ra không quen biết?

Tình bạn cũng giống như một cái cây. Nếu không được chăm sóc, tưới nước thường xuyên, nó sẽ dần khô héo.

Dấu hiệu nhận biết quý nhân bên cạnh bạn: Đó là những người có tầm nhìn dài hạn

Những người thực sự tuyệt vời là những người có tầm nhìn dài hạn.

Từ năm 2025 trở đi, điều thực sự khiến bạn thất nghiệp chính là ‘tâm lý DeepSeek, tâm lý Chat GPT’

Tâm lý DeepSeek, tâm lý Chat GPT khiến bạn mất đi 2 điều quý giá nhất đối với con người trong quá trình học tập và làm việc: Thói quen suy nghĩ độc lập và kiên trì học tập suốt đời. Cứ thế, AI sẽ ‘đá bay’ bạn ra khỏi chốn công sở.

Giữa làn sóng AI, thứ giết chết con người không phải Chat GPT, DeepSeek,... mà là lối tư duy này

DeepSeek giống như cần sa, nó có tác dụng giảm đau. Nhưng một khi bạn bị nghiện, nó sẽ chỉ gây tổn hại đến não và khiến bạn hoàn toàn mất khả năng suy nghĩ.

Học hỏi 14 thói quen của những người sáng tạo để trở nên sáng tạo hơn

Nếu bạn đang mắc kẹt trong bài tập hoặc dường như không thể hoàn thành một tác phẩm nghệ thuật, hãy tập trung xây dựng những thói quen sau đây của những người sáng tạo. Theo thời gian, bạn sẽ học được cách sáng tạo nhanh hơn, dễ dàng hơn và lâu dài hơn.

Sau tuổi 40, nhìn vào 4 điểm này là biết nửa đời sau sung sướng hay bất hạnh

Đây đều là thói quen sống cấp cao mà ít người làm được!

Xem “Sex Education”, tôi bừng tỉnh, suýt nữa tôi khiến con lớn lên sống đời tầm thường!

Điện ảnh - Ứng Hà Chi - 17/05/2025 13:00
Bộ phim đã thay đổi suy nghĩ của tôi trong cách dạy con, giúp gắn kết cha con.

Cảnh giác chiêu thức lừa đảo mới núp bóng thói quen lướt web hàng ngày

Kỹ năng - T.A - 17/05/2025 12:00
Các chuyên gia an ninh mạng cảnh báo về một hình thức lừa đảo trực tuyến mới, được triển khai thông qua một hành vi phổ biến của người dùng Internet.

Dương Quá bí mật nhận 7 đồ đệ: Một người trong số đó gần như hủy diệt giới võ thuật Trung Nguyên

Thư giãn - Nguyệt Phạm - 17/05/2025 11:00
7 người đồ đệ của Dương Quá là những ai?

Lo ngại phong trào “nằm thẳng” lan rộng ở nhiều nước châu Á

Phong cách sống - Linh Quy - 17/05/2025 10:00
Xu hướng “nằm yên” và “mặc kệ” đang lan rộng trong một bộ phận người trẻ ở một số nước tại châu Á.

Chiến thắng Con Quỷ bên trong - Bắt đầu từ việc bạn dám nói 'không' với ham muốn nhỏ nhất

Từ sách - Phim - 17/05/2025 09:00
Nếu bạn đã từng đọc "Chiến thắng Con Quỷ bên trong" (Outwitting the Devil: The Secret to Freedom and Success) của Napoleon Hill, bạn sẽ nhận ra rằng ham muốn là một trong những cái bẫy thầm lặng của "Con Quỷ".

Muôn kiếp nhân sinh - Tàng thức bất tử và hành trình vô tận của kiếp người

Từ sách - Phim - Quìn - 17/05/2025 08:00
Tàng thức là dòng chảy liên tục không gián đoạn, vượt ngoài giới hạn của một kiếp người. Điều này cũng lý giải vì sao một số người sinh ra đã có thiên hướng, tài năng, hay tính cách đặc biệt, vì những dấu ấn từ vô số kiếp trước vẫn đang âm thầm tác động.

Cập nhật mới trên Zalo khiến hàng triệu người dùng có thể mất sạch tin nhắn quan trọng

Kỹ năng - Nhật Hạ - 16/05/2025 13:00
Theo đó, với những ai sử dụng Zalo trên trình duyệt web, lịch sử tin nhắn sẽ chỉ được lưu trữ trong 14 ngày

Xem Sex Education, tôi hiểu ra cha mẹ có thể hủy hoại con cái nếu yêu thương sai cách

Điện ảnh - Minh Anh - 16/05/2025 12:00
Có những hành động xuất phát từ tình thương nhưng không mang lại hiệu quả như các bậc phụ huynh mong muốn.

TikTok ra mắt tính năng "hô biến" ảnh tĩnh thành video

Kỹ năng - Nam Đoàn - 16/05/2025 11:00
TikTok vừa chính thức giới thiệu AI Alive, một tính năng đột phá cho phép người dùng dễ dàng biến những bức ảnh tĩnh thành các video hoạt hình ấn tượng nhờ sức mạnh của trí tuệ nhân tạo (AI).

Tung Tung Tung Sahur và Brainrot tràn ngập mạng xã hội khiến phụ huynh ngơ ngác

Phong cách sống - Tiểu Ngạn - 16/05/2025 10:00
Tung Tung Tung Sahur - một trào lưu "hack não" đang lan tràn trên các nền tảng MXH khiến phụ huynh đau đầu.

‘Không còn bệnh tim’ – 3 bước đơn giản giúp bạn cải thiện sức khỏe tim mạch

Từ sách - Phim - FN - 16/05/2025 09:00
Theo Tổ chức Y tế thế giới (WHO), bệnh tim mạch là nguyên nhân gây tử vong hàng đầu trên phạm vi toàn cầu. Tuy nhiên, không phải ai cũng biết oxit nitric (NO), chất độc trong công nghiệp lại có thể trở thành “phân tử kỳ diệu” cứu sống hàng triệu người.

Tự do – như chim tung cánh: Tự do không đến một mình, nó luôn đi cùng với trách nhiệm

Từ sách - Phim - Quìn - 16/05/2025 08:00
Trên hành trình đi tìm tự do, đôi khi ta lại quên mất một điều rất quan trọng: tự do thật sự không thể có nếu ta không dám chịu trách nhiệm với chính cuộc đời mình.

Địa chỉ trụ sở 102 phường, xã mới của TP.HCM sau sáp nhập12

Kỹ năng - THẢO LÊ - 15/05/2025 13:00
TP.HCM sẽ sắp xếp 273 phường, xã, thị trấn thành 102 phường, xã. Dưới đây là trụ sở làm việc dự kiến của các đơn vị mới.

Xem Sex Education, tôi không hề xấu hổ với cảnh nóng: Mẹ đã biến tôi thành "Otis phiên bản đời thực"

Điện ảnh - Minh Anh - 15/05/2025 12:00
Cách giáo dục của mẹ đã cho tôi những góc nhìn hoàn toàn khác.

Nhắn tin nhầm, chiêu lừa đảo mới nhắm vào tiền tiết kiệm cả đời trong tài khoản ngân hàng

Kỹ năng - Minh Tiến - 15/05/2025 11:00
Nhắn tin nhầm số: ‘Mỏ vàng’ mới của những kẻ lừa đảo
HẠT GIỐNG TÂM HỒN
2019 Bản quyền thuộc về hatgiongtamhon.com.vn. Phát triển bởi ONECMS
Thứ 7, 17/05/2025