AI – lợi và hại

Nội dung do AI tạo ra tràn ngập các mạng xã hội và phương tiện truyền thông. Nhưng bản chất thật sự của AI là gì và nó có uy quyền như con người lo sợ không? Đó là những gì hai tác giả Arvind Narayanan và Sayash Kapoor sẽ làm rõ trong “AI – lợi và hại” (AI Snake Oil).

AI là một thuật ngữ chung dùng để chỉ một nhóm các công nghệ không có nhiều mối liên quan với nhau. Chẳng hạn, ChatGPT và phần mềm đánh giá người vay của ngân hàng rất khác nhau, các chatbot, công cụ tạo hình ảnh và công cụ tự động hoàn thành văn bản tuy cùng là AI tạo sinh nhưng có công dụng rất khác nhau.

AI chia thành hai loại lớn là AI tạo sinh và AI dự đoán. Công nghệ AI tạo sinh được xây dựng trên một chuỗi dài các cải tiến từ hơn 80 năm trước và hiện đang phát triển nhanh chóng, với những tiến bộ rõ rệt, nhưng nó vẫn là một sản phẩm còn non trẻ, còn tiềm ẩn nhiều vấn đề và dễ bị khai thác sai mục đích.

Giới nghệ sĩ phản đối AI vì vấn đề tác quyền. Giới diễn viên cũng lo ngại các hãng phim có thể sử dụng cảnh quay trước đây của họ để huấn luyện AI tạo ra những video mới, dẫn dến một loạt cuộc đình công lớn ở Hollywood vào năm 2023.

Trái lại, AI dự đoán dùng để dự đoán về tương lai để hỗ trợ đưa ra các quyết định trong hiện tại lại không hề có tác dụng. Thật ra độ chính xác của AI dự đoán chỉ cao hơn dự đoán ngẫu nhiên - tức là đoán bừa - một chút. Năm 2013, chính phủ Hà Lan triển khai một thuật toán để phát hiện gian lận phúc lợi, thay thế cho hệ thống dùng con người xem xét từng trường hợp. Thuật toán này đã cáo buộc sai khoảng 30.000 phụ huynh là gian lận trợ cấp chăm sóc trẻ em, có trường hợp bị yêu cầu hoàn trả đến 100.000 euro.

Và điều gây sốc hơn nữa là thuật toán này sử dụng yếu tố quốc tịch để dự đoán hành vi gian lận, nếu tất cả các yếu tố khác giống nhau thì người gốc Thổ Nhĩ Kỳ, Ma-rốc hoặc Đông Âu có khả năng bị dự đoán gian lận cao hơn.

Vụ việc cuối cùng đã khiến cơ quan thuế nước này bị phạt 3,7 triệu euro, dẫn đến thủ tướng và toàn bộ nội các phải từ chức. Đó là một trong rất nhiều trường hợp sử dụng AI dự đoán không hề có tác dụng nhưng lại được tin tưởng và bao biện quá mức, gây ra sai lầm khủng khiếp.

Dù sao đi nữa, trong lĩnh vực AI dự đoán, các nhà hoạt động đã thành công trong việc đặt ra giới hạn đối với những ứng dụng gây hại. Nhưng ở lĩnh vực AI tạo sinh, ranh giới vẫn đang hình thành. Công nghệ này không chỉ gây biến đổi nền kinh tế, làm mất công việc, mà còn dựa vào lao động vô hình của hàng triệu người để phát triển – từ những công việc lặp đi lặp lại, được trả lương thấp, cho đến việc thu thập dữ liệu huấn luyện mà không ghi nhận hay trả công cho các tác giả, nghệ sĩ, nhiếp ảnh gia.

Con người cũng ngày càng phụ thuộc vào các ứng dụng AI tạo sinh. Mới đây, một cựu giám đốc công nghệ bị cáo buộc giết mẹ rồi tự sát do bị các cuộc trò chuyện với ChatGPT gây ám ảnh.

Nhưng thực tế, các chatbot chỉ lặp lại và biến tấu những nội dung đã xuất hiện trên Internet. Các nhà phát triển hoàn toàn có thể ngăn chặn những phản hồi không phù hợp bằng cách huấn luyện chatbot, nhưng họ không làm vậy. Họ đã bỏ qua vấn đề đạo đức để giành ưu thế trong cuộc chạy đua kiếm tiền nhờ AI. AI tạo sinh đã bị quảng cáo phóng đại quá mức, nhất là về AGI (trí tuệ nhân tạo tổng quát), gây ra nhiều thông tin nhiễu loạn và nỗi lo sợ vô lý cho con người.

Tại sao các huyền thoại về AI vẫn tồn tại? Động lực nào dẫn đến những lời quảng cáo thổi phồng về AI? Quyển sách này là một hướng dẫn cần thiết để giúp bạn nhận diện các trò bịp AI và những trường hợp quảng cáo thổi phồng quá mức về công nghệ này.

Khi viết lời tựa cho quyển sách, Giáo sư John Vu – Giáo sư ưu tú ngành Khoa học Máy tính, Giám đốc chương trình Đổi mới Công nghệ Sinh học và Tính toán, đồng Giám đốc chương trình Trí tuệ nhân tạo tại Đại học Carnegie Mellon – nhận định đây là một tài liệu tham khảo có giá trị dành cho những ai muốn tìm hiểu về AI, giúp người đọc trang bị thêm nhiều kiến thức để hiểu và chủ động hơn trước khi sử dụng công cụ này trong đời sống.

Bên cạnh những phân tích thấu đáo của bộ đôi tác giả, ở phần cuối sách, độc giả còn được tiếp cận một số bức thư của Giáo sư John Vu về tác động của AI đối với giáo dục, công việc và tương lai của con người. Những tư liệu này không chỉ mở rộng bối cảnh của cuốn sách mà còn mang lại nhiều suy ngẫm về cách mỗi cá nhân có thể thích nghi và phát triển trong kỷ nguyên trí tuệ nhân tạo.

Arvind Narayanan là giáo sư ngành khoa học máy tính và giám đốc Trung tâm Chính sách Công nghệ Thông tin (CITP) tại Đại học Princeton. Narayanan nổi tiếng với các công trình tiên phong về quyền riêng tư, bảo mật và đạo đức dữ liệu. Anh từng nhận giải thưởng danh giá PECASE do Tổng thống Mỹ trao tặng cho các nhà khoa học trẻ xuất sắc.

Sayash Kapoor từng là kỹ sư phần mềm tại Facebook, anh hiện là nghiên cứu sinh tiến sĩ tại Đại học Princeton, chuyên về các tác động xã hội của AI, với trọng tâm là minh bạch, trách nhiệm và tái lập nghiên cứu. Các công trình của Kapoor được trao nhiều giải thưởng, như Best Paper tại ACM FAccT, Impact Award tại ACM CSCW. Anh cũng góp mặt trong danh sách “100 nhân vật có ảnh hưởng nhất trong lĩnh vực AI” do tạp chí TIME công bố.