Một số công cụ có thể giúp ngăn chặn nội dung deepfake khiêu dâm

Sơn Vân21/02/2024 12:00
Một số công cụ có thể giúp ngăn chặn nội dung deepfake khiêu dâm

Nội dung deepfake khiêu dâm là vấn đề lớn do trí tuệ nhân tạo (AI) tạo ra.

Deepfake là một từ ghép của deep learning (học sâu) và fake (giả mạo), thường chỉ các phương pháp và công nghệ sử dụng AI và học sâu để tạo ra hoặc chỉnh sửa nội dung video và âm thanh sao cho giống người thật. Cụ thể hơn, deepfake thường được sử dụng để thay đổi gương mặt và giọng điệu của các người nổi tiếng trong video hoặc tạo ra video giả mạo họ trong các tình huống hoặc hành động mà họ không thực sự tham gia.

Deepfake đã trở thành một vấn đề nghiêm trọng trong thế giới truyền thông và giải trí, vì được sử dụng để tạo ra thông tin sai lệch, lừa dối người xem, hoặc xâm phạm quyền riêng tư của người khác.

Một nghiên cứu năm 2019 mang tên The State of Deepfakes của công ty Deep Trace cho thấy 96% video deepfake là nội dung khiêu dâm.

Henry Ajder, nhà nghiên cứu về deepfake và là đồng tác giả của nghiên cứu đó, nói với trang Insider rằng dù con số có thể đã thay đổi nhưng vấn đề vẫn nghiêm trọng như vậy.

Khi các công cụ AI như Dall-E, Stable Diffusion và Midjourney trở nên dễ tiếp cận hơn, những người có rất ít kiến thức kỹ thuật cũng có thể tạo ra các sản phẩm deepfake dễ dàng hơn.

Henry Ajder cho biết: “Tỷ lệ phần trăm hiện thấp hơn, nhưng tổng khối lượng nội dung deepfake mang tính khiêu dâm đã tăng vọt. Chúng ta đang nói về hàng triệu nạn nhân trên khắp thế giới”.

Tuy nội dung deepfake là giả nhưng sự sỉ nhục, cảm giác tổn thương, đe dọa với nạn nhân là rất thật.

BBC News đưa tin một thiếu nữ người Anh đã tự sát vào năm 2021 sau khi những hình ảnh deepfake khiêu dâm về cô được các học sinh khác trong trường tạo ra và chia sẻ trong nhóm Snapchat.

Tháng trước, nội dung deepfake khiêu dâm của Taylor Swift lan truyền trực tuyến, khiến Elon Musk phải chặn tìm kiếm về nữ siêu sao nhạc Pop trên mạng xã hội X.

mot-so-cong-cu-co-the-giup-ngan-chan-noi-dung-deepfake-khieu-dam1.jpg
Ảnh deepfake khiêu dâm của Taylor Swift đã nâng cao nhận thức về vấn đề này - Ảnh Getty Images

Tình hình có vẻ nghiệt ngã, nhưng hiện có sẵn các công cụ và phương pháp giúp bảo vệ khỏi việc AI thao túng danh tính của bạn.

Phát hiện deepfake

Hình mờ kỹ thuật số, trong đó nội dung được dán nhãn rõ ràng là do AI tạo ra, đã được chính quyền Biden xác nhận như một giải pháp.

Các nhãn này nhằm mục đích vừa nâng cao nhận thức cộng đồng, vừa giúp các nền tảng dễ dàng thu thập và loại bỏ nội dung deepfake gây hại.

Google và Meta Platforms đều đã công bố kế hoạch bắt đầu dán nhãn nội dung do AI tạo hoặc sửa đổi bằng "thông tin xác thực kỹ thuật số" để làm rõ nguồn gốc của nội dung.

OpenAI, công ty phát triển chatbot ChatGPT và trình tạo hình ảnh DALL-E, lên kế hoạch thêm cả hình mờ trực quan và siêu dữ liệu ẩn tiết lộ lịch sử của hình ảnh, phù hợp với tiêu chuẩn của Liên minh Chứng minh và Xác thực Nội dung (C2PA).

Ngoài ra, hiện còn có các nền tảng chuyên dụng được thiết kế để kiểm tra nguồn gốc của nội dung trực tuyến. Sensity, công ty đứng sau nghiên cứu năm 2019 về deepfake, đã phát triển dịch vụ phát hiện và cảnh báo người dùng qua email khi họ đang xem nội dung có dấu vết rõ ràng của AI. Song ngay cả khi hình ảnh rõ ràng là giả, nạn nhân vẫn có thể cảm thấy mình bị tổn thương.

“Viên thuốc độc nhỏ”

Các công cụ phòng thủ giúp bảo vệ hình ảnh khỏi bị thao túng được coi là giải pháp mạnh mẽ hơn, dù chúng vẫn đang trong giai đoạn phát triển ban đầu. Các công cụ này cho phép người dùng xử lý hình ảnh của họ bằng một tín hiệu không thể nhận ra, mà khi chạy qua bất kỳ hệ thống AI nào sẽ tạo ra một mớ hỗn độn mờ ảo không thể sử dụng được.

Ví dụ: Nightshade, công cụ do các nhà nghiên cứu tại Đại học Chicago (Mỹ) phát triển, thêm các pixel vào hình ảnh. Ảnh sẽ bị hỏng khi xử lý bằng AI nhưng vẫn trông như bình thường với con người.

Ben Zhao, một trong những nhà nghiên cứu, nói với trang NPR: “Bạn có thể coi Nightshade giống như việc thêm một viên thuốc độc nhỏ vào bên trong một tác phẩm nghệ thuật theo cách cố gắng đánh lừa mô hình AI về những gì thực sự có trong hình ảnh”.

Dù được thiết kế để bảo vệ tài sản trí tuệ của nghệ sĩ nhưng công nghệ này có thể hoạt động trên mọi bức ảnh.

Henry Ajder nói: “Đó là một tuyến phòng thủ thực sự tốt cho mọi người để cảm thấy an toàn khi tải ảnh từ bữa tiệc sinh nhật của bạn bè vào cuối tuần”.

Quy định có thể tạo ra sự khác biệt

Theo hãng tin AP, ít nhất 10 bang ở Mỹ đã áp dụng hệ thống pháp lý đa dạng bảo vệ cho nạn nhân của deepfake. Thế nhưng, các vụ việc nghiêm trọng gần đây đã gia tăng áp lực lên các nhà làm luật để ngăn chặn và trừng phạt việc sử dụng AI lẫn deepfake với mục đích xấu.

Ủy ban Truyền thông Liên bang đã cấm các cuộc gọi tự động (robocall) do AI tạo ra. Động thái này diễn ra sau khi cuộc gọi tự động sử dụng âm thanh giả của Tổng thống Mỹ - Joe Biden đã lan truyền tới bang New Hampshire, kêu gọi các cử tri ủng hộ đảng Dân chủ ở nhà và không đi bỏ phiếu để lựa chọn ứng cử viên Tổng thống Mỹ của đảng này.

Nội dung cuộc gọi được ghi âm sẵn này kêu gọi người dân ở New Hampshire "để dành" lá phiếu cho đến cuộc bầu cử Tổng thống Mỹ vào tháng 11.2024 và rằng việc họ đi bỏ phiếu ngày 23.1.2024 tại bang này sẽ chỉ giúp cho nỗ lực của đảng Cộng hòa để đưa ông Donald Trump quay trở lại Nhà Trắng một lần nữa.

Nội dung ghi âm còn kêu gọi cử tri ở New Hampshire ghi tên Tổng thống Joe Biden trên các lá phiếu sẽ được phát ra trong cuộc bầu cử sơ bộ tại bang này.

Vào tháng 1.2024, một nhóm thượng nghị sĩ lưỡng đảng đã đưa ra dự luật liên bang được gọi là Đạo luật DEFIANCE cho phép nạn nhân kiện những người tạo ra và phân phối các nội dung tình dục giả mạo của họ, biến nó thành vấn đề dân sự hơn là hình sự.

Một dự luật được Hạ nghị sĩ Joe Morelle đưa ra vào tháng 5.2023 nhằm hình sự hóa việc chia sẻ nội dung deepfake vẫn chưa tiến triển.

Thế nhưng, phần lớn dự luật mới đang phải đối mặt với sự phản đối từ những người ủng hộ quyền tự do ngôn luận. Theo Henry Ajder, lý do là có người xem việc tạo ra deepfake riêng tư giống như ảo tưởng mà ai đó có thể nảy sinh trong đầu về người họ yêu thích.

Điều này ảnh hưởng đến luật ở Vương quốc Anh, nơi Đạo luật An toàn Trực tuyến đã quy định việc phân phối nội dung khiêu dâm deepfake là bất hợp pháp, nhưng việc tạo ra nó không bị cấm theo quy định hiện tại.

Theo quan điểm của Henry Ajder, dù khó truy tố nhưng việc hình sự hóa nội dung deepfake khiêu dâm vẫn là biện pháp ngăn chặn quan trọng. Ông cho biết một số người đang sử dụng các công cụ AI để tạo nội dung cho mục đích sử dụng cá nhân của riêng họ. Tuy nhiên, Henry Ajder nói thêm rằng việc đảm bảo họ nhận ra đây là hành vi phạm tội là điều quan trọng.

Các chính phủ cũng có thể gây áp lực lên hãng cung cấp công cụ tìm kiếm, nhà phát triển công cụ AI và nền tảng truyền thông xã hội mà nội dung được phân phối.

Tại Ấn Độ, một vụ bê bối nội dung deepfake khiêu dâm liên quan đến các nữ diễn viên Bollywood đã thúc đẩy chính phủ đẩy nhanh việc ban hành luật và gây áp lực lên các hãng công nghệ lớn nhằm ngăn chặn nội dung do AI tạo ra lan truyền trực tuyến.

Henry Ajder thừa nhận: “Chúng ta không nên tự dối lòng rằng có thể loại bỏ hoàn toàn vấn đề. Theo quan điểm của tôi, điều tốt nhất chúng ta có thể làm là tạo ra càng nhiều trở ngại càng tốt để mọi người phải thực sự cố ý khi cố gắng tạo ra nội dung này".

 


Gửi bình luận
(0) Bình luận
1

Giáo viên, dân văn phòng đều thích: AI tóm tắt tài liệu của Google “nói” được tiếng Việt

Sau khi triển khai NotebookLM đến hơn 200 quốc gia vào năm ngoái, giờ đây, tính năng Audio Overviews của NotebookLM đã có tiếng Việt.
2

Cách kiểm tra tài khoản Google có bị đăng nhập trái phép hay không

Tài khoản Google gắn liền với công việc lẫn nhiều hoạt động trực tuyến, vì vậy ta cần định kỳ kiểm tra xem có ai ngoài bản thân đăng nhập hay không.
3

Sau Internet và iPhone, dự đoán của Kurzweil khiến chúng ta phải giật mình

Người đàn ông này đã dự đoán đúng sự ra đời của Internet và iPhone, giờ đây đang phác thảo một tương lai nơi cái chết có thể bị vượt qua và suy nghĩ của bạn tồn tại trên lưu trữ đám mây.
4

Tại sao không nên dùng vân tay để mở khóa điện thoại?

Touch ID (khóa vân tay) từng một thời được coi là phương pháp bảo mật lý tưởng, nhưng qua thực tiễn lại bộc lộ những điểm yếu về khả năng bảo mật.
5

Cách giành lại quyền làm chủ bộ não khi nghiện ChatGPT và các chatbot AI

Nhiều thanh thiếu niên đang ở trên ranh giới mong manh giữa nhờ ChatGPT hỗ trợ nhiều thứ và sự lệ thuộc quá mức vào chatbot trí tuệ nhân tạo của OpenAI.

Gia đình muốn phát triển giàu có cần phải làm được 15 điều này

Một gia đình hòa thuận và giàu có cần phải được xây dựng bởi nỗ lực của tất cả thành viên. Phát triển thì gian nan, nhưng hủy hoại thì chỉ trong một khoảnh khắc. Nếu làm được 20 điều dưới đây, gia hảo đoàn viên, vững như bàn thạch.

Thủ thuật xem lại bài viết đầu tiên bạn đã đăng lên Facebook

Sau một thời gian dài sử dụng Facebook, bạn có bao giờ tự hỏi bài viết đầu tiên mình chia sẻ lên mạng xã hội này là gì? Bài viết dưới đây sẽ giúp bạn đi tìm câu trả lời.

Một thói quen vàng của năm 2024 giúp sở hữu cuộc sống thảnh thơi, sung túc đủ đầy

Nỗ lực tiết kiệm tiền là sự thể diện lớn nhất của người trưởng thành.

5 mẹo nhỏ giúp bạn ‘nâng trình’ đọc sách năm 2024

Hãy cùng First News điểm qua 5 mẹo nhỏ để việc đọc sách năm mới thuận lợi, thiết thực và bổ ích hơn nhé.

Khách lì xì con gái 500k, tôi nên lì xì cho 2 đứa con của họ bao nhiêu?

Lì xì ngày Tết thế nào cho khéo, để vừa vui trẻ con, vừa không mất lòng người lớn?.

Cảnh báo nạn catfishing trên mạng

Catfishing là hành vi tạo danh tính trực tuyến giả nhằm mục đích chơi khăm, quấy rối hoặc lừa đảo người khác. Nó thường xuất hiện trên mạng xã hội hoặc nền tảng hẹn hò đang phổ biến để thiết lập quan hệ phục vụ ý đồ sai trái.

Những điều "mọt sách" nên làm vào cuối năm

Nếu bạn là một "mọt sách" chính hiệu thì đừng bỏ qua bài viết này

Báo động tình trạng nội dung khiêu dâm tạo bởi AI nhắm vào phụ nữ và trẻ em

Theo đài CNN, vụ việc phát tán hình ảnh khiêu dâm giả mạo nữ ca sĩ Taylor Swift tuần qua gióng lên hồi chuông cảnh báo về khả năng kẻ xấu dùng trí tuệ nhân tạo (AI) tạo nên nội dung khiêu dâm gây tổn hại đến phụ nữ và trẻ em.

Podcast: Chân trần chí thép – Cuộc chiến trong lòng đất

Sự hình thành hệ thống địa đạo Củ Chi là một bằng chứng về lòng kiên trì, quyết tâm và kỹ năng của du kích Củ Chi trong suốt ba mươi năm. Trong cuộc đọ sức về ý chí dưới lòng đất, du kích địa đạo là những tường thành vững chãi, không bao giờ bị đánh bật.

Podcast: Chân trần chí thép – Cuộc chiến trong lòng đất

Từ sách - Phim - FN - 11/05/2025 09:00
Sự hình thành hệ thống địa đạo Củ Chi là một bằng chứng về lòng kiên trì, quyết tâm và kỹ năng của du kích Củ Chi trong suốt ba mươi năm. Trong cuộc đọ sức về ý chí dưới lòng đất, du kích địa đạo là những tường thành vững chãi, không bao giờ bị đánh bật.

Bắt đầu hành trình chuyển hóa thân tâm trong mùa Vesak 2025

Tủ sách - Đan Thanh - 11/05/2025 08:00
Những cuốn sách Phật giáo giúp bạn soi rọi lại chính mình để thực sự sống trọn vẹn, thảnh thơi trong từng sát-na của hiện tại.

Xem "Sex Education", tôi chết lặng vì hành động từng làm với cha: Có những tổn thương mà ta day dứt cả đời

Điện ảnh - Ứng Hà Chi - 10/05/2025 13:00
Đôi khi, ước mơ đẹp nhất không phải là những điều lớn lao, mà chính là hạnh phúc giản dị của những người thân yêu.

Tại sao không nên dùng vân tay để mở khóa điện thoại?

Kỹ năng - KV - 10/05/2025 12:00
Touch ID (khóa vân tay) từng một thời được coi là phương pháp bảo mật lý tưởng, nhưng qua thực tiễn lại bộc lộ những điểm yếu về khả năng bảo mật.

Có phải vì biểu ca, Vương Ngữ Yên rời bỏ Đoàn Dự, câu trả lời đến từ Vân Trung Hạc

Thư giãn - Nguyệt Phạm - 10/05/2025 11:00
Vì sao Đoàn Dự thất bại trong cuộc chinh phục trái tim Vương Ngữ Yên?

8 câu nói để đời của "huyền thoại đầu tư" Warren Buffett

Suy ngẫm - Cẩm Hà - 10/05/2025 10:00
Warren Buffett sẽ rời bỏ vị trí CEO Berkshire Hathaway vào cuối năm 2025. Dù về hậu trường, những câu nói kinh điển của ông vẫn là kim chỉ nam bất hủ cho giới đầu tư toàn cầu.

Phạm Xuân Ẩn, vị tướng tình báo huyền thoại của Việt Nam khiến địch lầm tưởng CIA

Phong cách sống - Thiên Bình - 10/05/2025 09:00
Tài năng và nhân cách của ông khiến giới báo chí quốc tế phải bày tỏ sự kính trọng, cho rằng trong lịch sử tình báo chiến tranh, ít ai thành công như ông.

Putin - Logic của quyền lực : Nhân vật lịch sử hay biểu tượng của kiểm soát tuyệt đối?

Từ sách - Phim - Minh Hằng - 10/05/2025 08:00
Trong thời đại mà hình ảnh các nhà lãnh đạo thường bị bóp méo bởi truyền thông, thì "Putin – Logic của quyền lực" như một cánh cửa hiếm hoi hé lộ hậu trường quyền lực thực sự.

Xem "Sex Education", tôi hối hận vì lỗi với mẹ: Bài học đắt giá từ một câu nói của cô gái nghèo khó

Điện ảnh - Mỹ Hạnh - 09/05/2025 13:00
Bộ phim "Sex Education" đã giúp tôi thoát khỏi những ám ảnh về tuổi thơ. Tôi cũng nhận ra lỗi sai nghiêm trọng của mình đối với mẹ.

'Bố ơi, mình đi đâu thế?' trở lại: Nhiều khoảnh khắc 'đốn tim' khán giả

Truyền hình - Hạ Vĩ - 09/05/2025 12:00
Qua các thử thách “siêu ngầu” như chải tóc ngựa, đánh răng hà mã, các cặp bố con “triệu view” mang đến tiếng cười, nước mắt và bài học ấm áp về tình cha con. Biến hành trình tập sự thành chuyến đi, các ông bố cùng con khám phá thế giới rộng lớn hơn tất cả những gì các bé từng biết.

Cách giành lại quyền làm chủ bộ não khi nghiện ChatGPT và các chatbot AI

Kỹ năng - Sơn Vân - 09/05/2025 11:00
Nhiều thanh thiếu niên đang ở trên ranh giới mong manh giữa nhờ ChatGPT hỗ trợ nhiều thứ và sự lệ thuộc quá mức vào chatbot trí tuệ nhân tạo của OpenAI.

5 châm ngôn của Warren Buffett: Giá trị hơn cả mã cổ phiếu; tiết lộ bí quyết trường thọ

Phong cách sống - Trang Đào - 09/05/2025 10:00
Warren Buffett, 94 tuổi, không nói về các mô hình tài chính phức tạp mà nói với chúng ta bằng những lời thẳng thắn nhất: Đầu tư là một cuộc chạy marathon, đừng để bị phân tâm bởi những tiếng ồn ngắn hạn.

Bộ sách Khai mở cảm xúc và Khai mở hạnh phúc

Tủ sách - FN - 09/05/2025 09:00
Cảm xúc là gì, xuất hiện từ đâu? Chúng hoạt động như thế nào trong não và cơ thể? Có tốt hơn nếu chỉ trải nghiệm những cảm xúc tốt đẹp và rũ bỏ tất cả cảm xúc khó chịu? Và hạnh phúc là gì? Chúng ta có nhất thiết phải liên tục hạnh phúc, mãi mãi hạnh phúc không?

“Cứ tu thôi, đừng đổ thừa”: Phật pháp đời thường qua lời Thầy Thích Pháp Hòa

Từ sách - Phim - Quìn - 09/05/2025 08:00
"Chia sẻ từ trái tim" và "Con đường chuyển hóa" là hai cuốn tuyển tập những bài pháp thoại được nhiều người yêu mến của Thầy Pháp Hòa, được chọn lọc kỹ lưỡng nhằm giữ nguyên giọng văn mộc mạc nhưng thấm đẫm chiều sâu.

Sự cố 60 triệu người mất điện khiến tôi "sáng mắt": Có nhiều tiền mà lâm vào cảnh này cũng vô dụng

Suy ngẫm - Thùy Anh - 08/05/2025 12:00
Việc bị ngắt kết nối đột ngột khiến cuộc sống của nhiều người bị ảnh hưởng, họ nhận ra mình đã phụ thuộc vào công nghệ quá nhiều.
HẠT GIỐNG TÂM HỒN
2019 Bản quyền thuộc về hatgiongtamhon.com.vn. Phát triển bởi ONECMS
Chủ nhật, 11/05/2025