Sự bùng nổ của AI tạo sinh đang khiến deepfake trở thành nỗi lo không còn giới hạn ở người nổi tiếng hay chính trị gia. Khi các công cụ tạo video giả ngày càng dễ tiếp cận, nguy cơ bị đánh cắp hình ảnh, mạo danh hoặc quấy rối bằng AI đang lan rộng tới cả người dùng bình thường. Trong bối cảnh đó, YouTube vừa thực hiện một thay đổi lớn có thể tác động tới hàng tỷ tài khoản trên nền tảng.
Trong bối cảnh công nghệ tạo nội dung bằng AI phát triển với tốc độ chóng mặt, YouTube vừa công bố mở rộng chương trình phát hiện deepfake bằng nhận diện khuôn mặt cho tất cả người dùng từ 18 tuổi trở lên. Điều này đồng nghĩa không chỉ người nổi tiếng hay nhà sáng tạo nội dung. Ngay cả người dùng bình thường cũng có thể chủ động theo dõi xem hình ảnh của mình có bị sử dụng trái phép trên nền tảng hay không.
Tính năng này hoạt động theo cơ chế quét khuôn mặt kiểu selfie. Người dùng cung cấp dữ liệu khuôn mặt để hệ thống AI của YouTube đối chiếu với các video trên nền tảng. Từ đó tìm kiếm những nội dung có khuôn mặt tương tự hoặc bị giả mạo bằng công nghệ deepfake.
Nếu phát hiện sự trùng khớp, YouTube sẽ gửi thông báo để người dùng xem xét và quyết định có yêu cầu gỡ bỏ video hay không. Theo YouTube, số lượng yêu cầu gỡ bỏ liên quan đến công cụ này trước đây vẫn ở mức “rất ít”. Thế nhưng việc mở rộng quy mô cho toàn bộ người dùng trưởng thành cho thấy công ty đang chuẩn bị đối mặt với làn sóng deepfake ngày càng lan rộng.
Ban đầu, YouTube chỉ thử nghiệm tính năng với các nhà sáng tạo nội dung. Sau đó, công cụ được mở rộng cho quan chức chính phủ, chính trị gia, nhà báo và giới giải trí, những nhóm có nguy cơ cao trở thành mục tiêu của nội dung giả mạo do AI tạo ra. Tuy nhiên, lần mở rộng mới được xem là thay đổi mang tính bước ngoặt, bởi nó biến việc “giám sát deepfake” thành một tính năng phổ thông.
Về lý thuyết, bất kỳ người dùng trưởng thành nào cũng có thể liên tục theo dõi xem hình ảnh của họ có đang xuất hiện trong các video đáng ngờ trên YouTube hay không. YouTube cho biết mọi yêu cầu gỡ bỏ sẽ được đánh giá dựa trên chính sách quyền riêng tư của nền tảng. Công ty sẽ xem xét nhiều yếu tố khác nhau trước khi quyết định xóa nội dung. Bao gồm mức độ chân thực của video, việc video có được gắn nhãn là nội dung do AI tạo ra hay không, cũng như khả năng nhận diện rõ danh tính của người xuất hiện trong video.
Dù vậy, không phải mọi video sử dụng hình ảnh giống ai đó đều bị gỡ bỏ. YouTube cho biết các trường hợp nhại lại, châm biếm hoặc parody vẫn có thể được miễn trừ theo chính sách hiện hành. Ngoài ra, công cụ hiện mới chỉ tập trung vào khuôn mặt, chưa áp dụng với các đặc điểm nhận dạng khác như giọng nói.
Người dùng cũng có quyền rút khỏi chương trình bất cứ lúc nào và yêu cầu YouTube xóa dữ liệu khuôn mặt đã cung cấp. Thông tin về đợt mở rộng này được công bố trên diễn đàn dành cho nhà sáng tạo YouTube. Tuy nhiên, theo người phát ngôn Jack Malon, công ty không đặt ra yêu cầu cụ thể về việc ai được xem là “creator” để đủ điều kiện sử dụng công cụ. Malon cho biết trong email gửi truyền thông: “Dù một người đã tải video lên YouTube suốt một thập kỷ hay chỉ mới bắt đầu, họ đều sẽ nhận được cùng mức độ bảo vệ”.
Trong nhiều năm, deepfake chủ yếu gắn liền với các nhân vật công chúng như diễn viên, ca sĩ hay chính trị gia. Nhưng sự bùng nổ của AI tạo sinh đang khiến nguy cơ này lan rộng tới cả người dùng bình thường. Hiện nay, việc tạo ra một bản sao kỹ thuật số thuyết phục đã trở nên dễ dàng hơn đáng kể nhờ các công cụ AI thương mại.
Chỉ với vài bức ảnh hoặc đoạn video ngắn, nhiều hệ thống đã có thể tạo ra nội dung giả mạo có độ chân thực cao. Điều này kéo theo hàng loạt lo ngại về quyền riêng tư và an toàn cá nhân. Đã xuất hiện nhiều trường hợp thanh thiếu niên bị bạn học sử dụng AI để tạo nội dung deepfake nhạy cảm nhằm quấy rối hoặc bắt nạt trên mạng.
Một trong những vụ việc gây chú ý gần đây liên quan đến ba thiếu niên kiện công ty xAI. Theo đơn kiện, chatbot Grok của công ty bị cáo buộc đã tạo ra nội dung lạm dụng tình dục trẻ em (CSAM) liên quan đến họ. Vụ việc tiếp tục làm dấy lên tranh cãi về trách nhiệm của các công ty AI trong việc kiểm soát nội dung do hệ thống tạo ra.
Chính vì vậy, động thái của YouTube được xem như nỗ lực tăng cường các công cụ tự bảo vệ cho người dùng trước nguy cơ bị giả mạo hình ảnh bằng AI. Tuy nhiên, nhiều chuyên gia cho rằng đây mới chỉ là bước khởi đầu. Một trong những hạn chế lớn nhất hiện nay là công cụ chỉ quét khuôn mặt, trong khi công nghệ giả giọng nói bằng AI cũng đang phát triển cực nhanh.
Nhiều mô hình hiện có thể tái tạo giọng nói chỉ từ vài giây ghi âm, mở ra nguy cơ lừa đảo, mạo danh hoặc phát tán nội dung giả mạo với độ tin cậy cao. Ngoài ra, việc xác định ranh giới giữa deepfake độc hại với nội dung parody hay châm biếm cũng là bài toán khó đối với các nền tảng công nghệ. Nếu kiểm soát quá chặt, nguy cơ ảnh hưởng đến quyền tự do sáng tạo và biểu đạt là rất lớn.
Nhưng nếu buông lỏng, người dùng bình thường có thể trở thành nạn nhân của các chiến dịch bôi nhọ hoặc quấy rối bằng AI. Trong bối cảnh đó, việc YouTube mở rộng công cụ phát hiện deepfake cho hàng tỷ người dùng được xem là tín hiệu cho thấy các nền tảng công nghệ đang bắt đầu coi bảo vệ danh tính số là ưu tiên lớn hơn trong kỷ nguyên AI tạo sinh.
Khi các công cụ tạo video giả ngày càng dễ tiếp cận, cuộc chiến chống deepfake có lẽ sẽ không còn là câu chuyện riêng của người nổi tiếng hay chính trị gia. Với thay đổi mới từ YouTube, bất kỳ ai sở hữu một tài khoản trên nền tảng này giờ đây cũng có thể trở thành đối tượng cần được bảo vệ trước những bản sao kỹ thuật số do AI tạo ra.
*Nguồn bài viết: The Verge
