Hàn Quốc đang đối mặt với làn sóng tội phạm deepfake ngày càng gia tăng, trong đó, các công nghệ AI được sử dụng để tạo ra hình ảnh và video giả mạo, thường nhắm vào phụ nữ, bao gồm cả học sinh, giáo viên và người nổi tiếng.
Tiến bộ gần đây trong công nghệ video có tác động tiêu cực đến Hàn Quốc. Ngày càng nhiều thanh thiếu niên am hiểu công nghệ tạo ra nội dung khiêu dâm giả mạo (deepfake) của nhiều người - thường là bạn bè của họ - dù chưa được sự đồng ý từ người đó.
Sam Altman đang nhận đề nghị về Sora, mô hình trí tuệ nhân tạo (AI) hỗ trợ tạo video dựa trên gợi ý bằng văn bản. Trong các video do Giám đốc điều hành OpenAI chia sẻ trên mạng xã hội X, Sora có khả năng tạo ra các video rất chân thực, giống như thật.
Ngày 25.1 (giờ địa phương), Page Six đưa tin nữ ca sĩ Mỹ Taylor Swiff phẫn nộ trước những hình ảnh giả mạo được tạo ra bởi trí tuệ nhân tạo (AI) đang phát tán trên mạng xã hội. Cô đang xem xét khởi kiện người đứng sau loạt ảnh giả này.
Ảnh chân dung trí tuệ nhân tạo từ trò chơi cho vui, cập nhật xu hướng hay sự vô tư “tiếp tay” tạo nguồn dữ liệu cho tội phạm mạng khai thác sử dụng trong deepfake trở thành công cụ lừa đảo.
Nghiên cứu của người đứng đầu chính sách và quan hệ đối tác của công ty AI Metaphysic chỉ ra rằng hàng triệu phụ nữ bị nhắm mục tiêu trên toàn thế giới.
Cách đây hai năm, cô Noelle nhận được email trong đó có những clip "nóng" mà nhân vật chính trong clip... chính là cô. Noelle biết rằng thực sự cô không phải là người ở trong những clip ấy.
Những clip này "không thật" bởi kỳ thực ngôi sao không hề xuất hiện trong đó, nhưng chúng lại được thực hiện chân thực đến mức gần như hoàn hảo và đánh lừa được rất nhiều người.
Một trang web tích hợp trí tuệ nhân tạo sử dụng công nghệ deepfake, cho phép biến những bức ảnh chân dung cũ thành những video sống động, với các cử chỉ trên gương mặt giống như thật.