Công cụ deepfake lột quần áo tạo ảnh khỏa thân trên Telegram gây hoang mang

Nhân Hoàng22/10/2020 20:30
Công cụ deepfake lột quần áo tạo ảnh khỏa thân trên Telegram gây hoang mang

Công cụ deepfake gây xôn xao trên ứng dụng Telegram với tính năng giả mạo ảnh khỏa thân từ ảnh phụ nữ có mặc quần áo.

Những bức ảnh các cô gái đăng lên tài khoản mạng xã hội đang bị một bot deepfake giả mạo thành ảnh khỏa thân trên ứng dụng nhắn tin Telegram.

Theo báo cáo của công ty nghiên cứu Sensity (Hà Lan), các hình ảnh này được tạo bằng AI có thể loại bỏ hầu hết quần áo.

Hơn 100.000 hình ảnh tình dục không đồng thuận của 10.000 phụ nữ tạo bằng bot đã được chia sẻ trực tuyến từ tháng 7.2019 đến năm 2020.

Sensity cho biết phần lớn nạn nhân đều bị lấy ảnh cá nhân trên tài khoản mạng xã hội, trong đó có một số cô gái tuổi vị thành niên.

canh-giac-cong-cu-deepfake-lot-quan-ao-tao-anh-khoa-than-tren-telegram.jpg
Bot deepfake biến thành phụ nữ mặc quần áo thành khỏa thân trên ứng dụng Telegram gây hoang mang

Hình thức deepfake khiêu dâm này không phải là mới. Công nghệ đằng sau bot đó được cho là dựa trên công cụ xuất hiện vào năm ngoái có tên là DeepNude. Dịch vụ trí tuệ nhân tạo trực tuyến này tương đối phức tạp để sử dụng, nhưng cho phép mọi người tải lên ảnh của một phụ nữ và AI sẽ xác định ảnh đó sẽ trông như thế nào nếu quần áo bị cởi bỏ.

Dịch vụ DeepNude đã bị xóa khỏi internet trong vòng 24 giờ sau khi trình làng, nhưng Sensity nghi ngờ rằng bot mới này dựa trên phiên bản bẻ khóa của công nghệ đó.

canh-giac-cong-cu-deepfake-lot-quan-ao-tao-anh-khoa-than-tren-telegram1.jpg
Cộng đồng mạng chỉ trích người tạo ra DeepNude vì những nguy hại mà dịch vụ này có thể gây ra cho những ai bị rơi vào tầm ngắm của kẻ xấu

Sensity nói điều khiến bot này trở nên đáng sợ là dễ sử dụng vì chỉ yêu cầu người dùng tải lên hình ảnh của một phụ nữ, nhấp vào vài nút. Sau đó, nó sử dụng 'mạng lưới thần kinh' để xác định thứ gì sẽ nằm dưới lớp quần áo và cho ra ảnh khỏa thân.

Giorgio Patrini, Giám đốc điều hành Sensity và đồng tác giả của báo cáo nói với CNET: “Sự đổi mới ở đây không nhất thiết phải là AI dưới mọi hình thức. Thực tế là nó có thể tiếp cận rất nhiều người và rất dễ dàng".

Thuật ngữ Deepfake là sự kết hợp giữa deep learning và fake. Công nghệ này được xây dựng trên nền tảng machine learning mã nguồn mở của Google. Deepfake sẽ quét video và ảnh chân dung của một người, sau đó hợp nhất với video riêng biệt nhờ trí tuệ nhân tạo (AI) và thay thế các chi tiết trên gương mặt như mắt, miệng, mũi với chuyển động gương mặt, giọng nói như thật. Càng có nhiều hình ảnh gốc thì AI càng có nhiều dữ liệu để học. Deepfake có thể gán khuôn mặt của người này sang người khác trong video với độ chân thực đến kinh ngạc, từng được sử dụng để thao túng các cuộc bầu cử, tạo nội dung khiêu dâm và quảng bá thông tin sai lệch.

Giorgio Patrini nói rằng hành vi lấy ảnh cá nhân và biến thành khỏa thân là tương đối mới, khiến bất kỳ ai có tài khoản mạng xã hội đều gặp rủi ro.

Bot deepfake chạy trên Telegram, nền tảng này thúc đẩy mạnh mẽ ý tưởng tự do ngôn luận. Quản trị viên bot (được gọi là P) nói với BBC rằng dịch vụ này hoàn toàn để giải trí và nó “không mang tính xâm hại”.

“Không ai sẽ tống tiền bất cứ ai bằng điều này vì chất lượng không thực tế. Mọi hình ảnh cô gái tuổi vị thành niên sẽ bị xóa và người tạo sẽ bị chặn”, P chia sẻ.

Mạng lưới bot, nơi các hình ảnh khỏa thân giả được tạo và chia sẻ, có hơn 100.000 thành viên, chủ yếu ở Nga hoặc Đông Âu.

Khoảng 70% hình ảnh được sử dụng trong Telegram đến từ mạng xã hội hoặc các nguồn cá nhân, chẳng hạn ảnh của bạn bè hoặc những ai mà người dùng biết.

“Ngay sau khi bạn chia sẻ hình ảnh hoặc video của mình và có thể bạn không ý thức về tính riêng tư của nội dung này, ai có thể xem, ai có thể đánh cắp, ai có thể tải xuống mà bạn không biết. Điều đó thực sự mở ra khả năng bạn đang bị tấn công”, Giorgio Patrini nói với trang Buzzfeed News.

Bot deepfake này chủ yếu được quảng cáo trên mạng xã hội VK (Nga). VK cho biết không dung dưỡng nội dung đó và sẽ xóa khi tìm thấy.

Giorgio Patrini nói với BBC: “Nhiều trang web hoặc ứng dụng này không ẩn hoặc hoạt động ngầm vì chúng bị pháp luật kiểm soát nghiêm ngặt. Cho đến khi điều đó xảy ra, tôi e rằng nó sẽ chỉ trở nên tồi tệ hơn”.

Các tác giả cũng lo ngại rằng khi công nghệ deepfake được cải thiện, kẻ xấu có thể sử dụng những bot này để tống tiền phụ nữ.

Dù hầu hết các vụ deepfake trước đây đến nay đều tập trung vào những người nổi tiếng hoặc chính trị gia, người dùng bot này dường như quan tâm hơn đến ảnh những người họ biết.

Theo Sensity, một cuộc khảo sát cho thấy 63% số người sử dụng bot
deepfake trên Telegram để tìm hiểu về những phụ nữ mà họ biết sẽ trông như thế nào khi không mặc quần áo.

Các tác giả báo cáo này đã chia sẻ phát hiện của mình với các cơ quan thực thi pháp luật, VK và Telegram nhưng chưa nhận được bất kỳ phản hồi nào.

Bà Nina Shick, tác giả cuốn sách Deep Fakes và Infocalypse, cho biết: “Hệ thống pháp luật của Anh không quan tâm động cơ về vấn đề này. Thật là kinh khủng với những nạn nhân của phim khiêu dâm giả. Nó hoàn toàn có thể khiến họ mất mạng vì cảm thấy bị xâm hại và sỉ nhục”.


Gửi bình luận
(0) Bình luận
1

Không phải Kiều Phong, chỉ 2 cao thủ sở hữu những tuyệt kỹ này có thể khiến Vô Danh Thần Tăng thua đau

Ai là người có tuyệt kỹ có thể phá vỡ "tường khí" hộ thể của Vô Danh Thần Tăng?
3

Anh van em đấy, em đừng yêu AI

Con người đang đắm đuối với AI - những người tình hoàn hảo, luôn luôn lắng nghe, luôn luôn thấu hiểu, khả năng dỗ dành ngọt ngào thì miễn bàn.
4

Vì sao Tiêu Phong truyền võ công cho kẻ thù là Hư Trúc mà bỏ qua Đoàn Dự?

Vì sao Tiêu Phong lại chọn Hư Trúc, người có ân oán với mình, thay vì Đoàn Dự, người anh em kết nghĩa, để kế thừa võ công Cái Bang?
5

Bí mật mối tình sét đánh Mộng Cô và Hư Trúc

Hư Trúc và Mộng Cô, hai con người tưởng chừng như khác biệt, lại nên duyên chỉ sau ba lần gặp gỡ ngắn ngủi.

Clip xác cá voi lưng gù dài 14 mét dạt vào bãi biển Nam Phi

Cơ quan chức năng của thành phố Cape Town đang xử lý xác của một cá voi lưng gù khổng lồ dạt vào bãi biển Strandfontein hôm 10.10.

AI phục dựng khuôn mặt 54 vị hoàng đế La Mã sống động như thật

Gương mặt của các hoàng đế La Mã cổ đại như Caligula, Nero và Hadrian đã được một nghệ sĩ tái hiện một cách chân thực nhờ đồ họa kỹ thuật số.

Lễ trao giải IG Nobel 2020: Cho cá sấu hít khí heli, xoay giun đất như chóng chóng và làm dao bằng phân đông lạnh

Thậm chí 5 tay sát thủ còn được trao giải Quản lý học trong một âm mưu giết người hài hước, còn một loạt các chính trị gia được trao giải Giáo dục Y tế vì "đã sử dụng đại dịch Covid-19 để dạy thế giới rằng các chính trị gia có thể có tác động tức thì đến sự sống và cái chết hơn các nhà khoa học và bác sĩ."

Cười rụng rốn với các nghiên cứu đạt giải Ig Nobel 2020, kèm phần thưởng không thể 'thốn' hơn từ ban tổ chức

Giải thưởng Ig Nobel năm nay dành cho những nhà nghiên cứu chiến thắng là một con số cực lớn, lên đến 10.000 TỈ đô. Nhưng mà đô gì thì... chưa biết.

Sinh vật lạ trôi vào bờ biển Thừa Thiên – Huế sau bão số 5

Hàng tạ sinh vật lạ trôi dạt vào bờ biển thuộc huyện Phú Lộc, tỉnh Thừa Thiên – Huế, người dân địa phương nghi rằng đây là một loại hải sâm quý hiếm nên đổ xô đi thu lượm.

Lịch sử tiến hoá của cá mập có thể được viết lại

Hiểu biết về sự tiến hóa của cá mập có thể cần được xem xét lại sau khi phát hiện ra tổ tiên 410 triệu năm tuổi của loài cá này.

Clip cá voi trắng sinh con trong thủy cung ở Mỹ

Đoạn video ghi lại cảnh cá voi trắng sinh con trong Thủy cung Shedd ở Chicago (Mỹ) đang được nhiều người chia sẻ rộng rãi trên mạng xã hội.

Clip côn trùng đáng sợ có đôi mắt phát sáng: Triệu người không biết tên

Người phụ nữ hơi hoang mang khi thấy con côn trùng đáng sợ với đôi mắt phát sáng bay vào phòng ngủ.

Dám Tha Thứ – Khi ta bắt đầu hiểu chính mình

Ai trong chúng ta cũng từng tổn thương. Có người mang nỗi buồn từ tuổi thơ, có người vẫn chưa quên một lời nói vụn vỡ, hay một người từng thân mà giờ đã hóa xa lạ. Nhưng điều khiến bạn mệt mỏi không phải là ký ức, mà là việc bạn phải ôm lấy nó mỗi ngày.

Vĩnh biệt "Copy/Paste", "AI/Regenerate" đang cách mạng hóa việc học tập của sinh viên

Kỹ năng - Thanh Long - 16/04/2025 11:00
"AI/Regenerate" được ví như Người Nhện, như thuốc thông minh, như người khuân vác kiến thức. Nhưng hãy coi chừng, AI cũng có thể gây nghiện.

Xem "Sex Education", tôi phát hiện lỗi sai nghiêm trọng khi dạy con, khiến đứa trẻ đánh mất chính mình

Điện ảnh - Ứng Hà Chi - 16/04/2025 09:00
Điều tốt nhất cha mẹ có thể làm không phải là dẫn dắt con từng bước, mà là để con tự do bay trên bầu trời của chính mình.

Dám Tha Thứ – Khi ta bắt đầu hiểu chính mình

Từ sách - Phim - Quìn - 16/04/2025 08:00
Ai trong chúng ta cũng từng tổn thương. Có người mang nỗi buồn từ tuổi thơ, có người vẫn chưa quên một lời nói vụn vỡ, hay một người từng thân mà giờ đã hóa xa lạ. Nhưng điều khiến bạn mệt mỏi không phải là ký ức, mà là việc bạn phải ôm lấy nó mỗi ngày.

Chàng trai đi xe đạp Thống Nhất từ Hà Nội vào TP.HCM để xem lễ diễu binh 30/4

Phong cách sống - Hải My - 15/04/2025 13:00
Hành trình đạp xe từ Hà Nội vào TP.HCM của anh chàng này thu hút cả triệu người theo dõi.

Sức khoẻ ở người trung niên là KPI quan trọng nhất, luôn có sẵn ‘plan B’ khi thất nghiệp

Suy ngẫm - Mini - 15/04/2025 12:00
Chiến lược của người trung niên không phải là "liều ăn nhiều", mà là "chắc từng bước, thắng từng chặng".

Phát triển nghề nghiệp

Blog GS John VU - GS John Vu - 15/04/2025 12:00
Mọi năm, tôi đều nhận được nhiều emails từ các sinh viên đã tốt nghiệp hỏi lời khuyên về nghề nghiệp của họ.

Nhóm nạn nhân đầu tiên của DeepSeek - Chuyên gia chỉ cách sống sót trong thời đại AI

Kỹ năng - Trang Đào - 15/04/2025 11:00
AI có thay thế công việc của chúng ta không?" - đó là câu hỏi đặt ra khi DeepSeek ra đời, đánh dấu bước tiến mới của công nghệ AI.

"Copy & Paste" sắp trở thành chuyện của quá khứ, Gen Alpha đang mở ra một kỷ nguyên mới

Phong cách sống - Trang Vũ - 15/04/2025 10:00
Thế hệ này hứa hẹn sẽ mang đến những sáng tạo đột phá.

Đường vào thiền - Hạt giống thuần khiết bên trong mỗi người sẽ nảy nở

Từ sách - Phim - Thu An - 15/04/2025 09:00
Có thể, nhiều người đã biết về thiền, tìm hiểu, trải nghiệm thiền. Nhưng nếu đọc “Đường vào thiền” của Osho, bạn sẽ nhận ra những chiều kích rất riêng, rất khác biệt, rất thâm sâu của Osho về thiền.

Xem phim 'Sex Education', tôi quyết dạy con 'Chọn bạn mà chơi'

Điện ảnh - Ứng Hà Chi - 15/04/2025 08:00
Tình bạn như một ngọn gió, có thể đưa con vươn xa hoặc cuốn con vào những lối mòn khó quay lại.

7 thói quen của nhiều người có thể "hạ đo ván" sức khỏe bất cứ lúc nào

Kỹ năng - Mỹ Diệu - 14/04/2025 13:00
Trong cuộc sống hàng ngày, chúng ta luôn vô tình hình thành một số thói quen nhỏ và có thể bạn đang đắm chìm trong những thói quen đó. Nhưng những hành động nhỏ giúp bạn cảm thấy sảng khoái trong chốc lát thực chất có thể tiềm ẩn những rủi ro sức khỏe.

Choáng váng trước cơn bão sa thải, nhớ ‘xốc’ lại tinh thần với lời dặn của Tư Mã Ý

Suy ngẫm - Diệu Đan - 14/04/2025 12:00
Tư Mã Ý xác thực là một đời thành công, không còn gì có thể nghi ngờ nữa. Cuộc đời ông chính là minh chứng của câu nói: Người trụ tới cuối cùng, đứng trên vạn người, chính là người khôn ngoan nhất.

Google thử nghiệm "Chế độ AI": Hỏi đáp phức tạp, đa chiều như ChatGPT

Kỹ năng - Nghĩa Nguyễn - 14/04/2025 11:00
Google đang thử nghiệm một tính năng mới đầy tham vọng cho công cụ tìm kiếm của mình mang tên "Chế độ AI" (AI Mode).

Trong nỗi đau khi con gái bị sát hại, nữ diễn viên Bạch Băng Băng vẫn lan tỏa cách giáo dục nhân văn

Truyền cảm hứng - Bảo Tín - 14/04/2025 10:00
Bà đã trải qua 7 năm kiếm con thất bại dù nỗ lực 16 lần thụ tinh nhân tạo, sau khi con gái đầu lòng chết.
HẠT GIỐNG TÂM HỒN
2019 Bản quyền thuộc về hatgiongtamhon.com.vn. Phát triển bởi ONECMS
Thứ 4, 16/04/2025