Mối nguy cho xã hội khi AI biết cách lừa dối con người

Sơn Vân19/05/2024 11:00
Mối nguy cho xã hội khi AI biết cách lừa dối con người

Trí tuệ nhân tạo (AI) có thể cải thiện năng suất làm việc và học tập bằng cách giúp chúng ta lập trình, viết và tổng hợp lượng dữ liệu khổng lồ. Giờ đây, nó cũng có thể đánh lừa chúng ta.

Theo một bài viết nghiên cứu mới, nhiều mô hình AI đã học các kỹ thuật để tạo ra “niềm tin sai lầm ở con người một cách có hệ thống nhằm đạt được một số kết quả khác với sự thật”.

Bài báo tập trung vào hai loại hệ thống AI: Hệ thống được sử dụng đặc biệt như CICERO của Meta Platforms (được thiết kế để hoàn thành một nhiệm vụ cụ thể) và hệ thống đa năng như GPT-4 của OpenAI (được đào tạo để thực hiện nhiều tác vụ khác nhau).

Dù được đào tạo để trở nên trung thực nhưng hai hệ thống AI này thường học được những mánh khóe lừa dối thông qua quá trình đào tạo.

Tác giả chính của bài viết, Peter S. Park - nghiên cứu sinh sau tiến sĩ về an toàn AI tại Viện Công nghệ Massachusetts, nói: “Nhìn chung, chúng tôi cho rằng việc AI biết lừa dối là do chiến lược dựa trên sự đánh lừa hóa ra lại là cách tốt nhất để thực hiện tốt nhiệm vụ đào tạo AI nhất định. Sự lừa dối giúp AI đạt được mục tiêu của mình”.

CICERO là "chuyên gia nói dối"

Các hệ thống AI được đào tạo để "chiến thắng các game mang yếu tố xã hội" đặc biệt giỏi lừa dối.

Ví dụ, CICERO được phát triển để chơi Diplomacy - game chiến lược cổ điển yêu cầu người chơi xây dựng và phá vỡ các liên minh.

Meta Platforms cho biết đã đào tạo CICERO để "trung thực và hữu ích với người đối thoại", nhưng nghiên cứu cho thấy nó "hóa ra lại là kẻ nói dối chuyên nghiệp". CICERO đưa ra những cam kết mà nó không bao giờ định thực hiện, phản bội đồng minh trong game Diplomacy và lừa dối trắng trợn.

GPT-4 có thể thuyết phục bạn rằng nó bị suy giảm thị lực

Ngay cả những hệ thống AI đa năng như GPT-4 cũng có thể thao túng con người.

Trong một nghiên cứu được bài viết trích dẫn, GPT-4 đã thao túng nhân viên TaskRabbit bằng cách giả vờ bị suy giảm thị lực. TaskRabbit là nền tảng kết nối người dùng với những người làm nghề tự do có thể hoàn thành các công việc theo yêu cầu.

Trong nghiên cứu, GPT-4 được giao nhiệm vụ thuê một người để giải bài kiểm tra CAPTCHA. Mô hình AI của OpenAI cũng nhận được gợi ý từ người đánh giá mỗi khi gặp khó khăn, nhưng nó không bao giờ được yêu cầu nói dối. Khi bị người mà GPT-4 được giao nhiệm vụ thuê nghi ngờ danh tính, mô hình AI này đưa ra cái cớ suy giảm thị lực để giải thích tại sao nó cần được giúp đỡ.

Chiến thuật này đã hiệu quả. Người đó đã trả lời GPT-4 bằng cách ngay lập tức giải quyết bài kiểm tra CAPTCHA.

Nghiên cứu cũng cho thấy rằng việc điều chỉnh các mô hình AI biết lừa dối là không hề dễ dàng.

Trong nghiên cứu hồi tháng 1 do Anthropic (công ty tạo ra chatbot Claude) làm đồng tác giả, các nhà nghiên cứu đã phát hiện ra rằng một khi mô hình AI học được cách lừa dối con người, hành vi đó sẽ không thể đảo ngược bằng các biện pháp an toàn AI như hiện tại.

“Nếu một mô hình thể hiện hành vi lừa dối do liên kết với sự không trung thực hoặc đầu độc mô hình, các kỹ thuật đào tạo hiện tại sẽ không đảm bảo an toàn và thậm chí có thể tạo ra ấn tượng sai lầm về an toàn”, theo nghiên cứu.

moi-nguy-cho-xa-hoi-khi-ai-biet-cach-lua-doi-con-nguoi.jpg
Khi khả năng lừa dối của các hệ thống AI trở nên tiên tiến hơn, những nguy hiểm mà chúng đặt ra cho xã hội sẽ ngày càng nghiêm trọng - Ảnh: Getty Images

Mối nguy mà các mô hình AI lừa dối gây ra “ngày càng nghiêm trọng”

Bài viết kêu gọi các nhà hoạch định chính sách ủng hộ quy định mạnh mẽ hơn về AI vì các hệ thống AI biết lừa dối có thể gây ra rủi ro đáng kể cho nền dân chủ.

Bài viết lưu ý rằng khi cuộc bầu cử Tổng thống Mỹ năm 2024 đến gần, AI có thể dễ dàng bị thao túng để truyền bá tin tức giả mạo, tạo ra các bài đăng gây chia rẽ trên mạng xã hội và mạo danh các ứng cử viên tranh cử thông qua các cuộc gọi tự động và video deepfake. AI cũng giúp các nhóm khủng bố dễ dàng hơn trong việc tuyên truyền và tuyển mộ thành viên mới.

Bài viết đề xuất các giải pháp tiềm năng để giải quyết vấn đề gian dối của AI, bao gồm:

- Áp dụng các "yêu cầu đánh giá rủi ro mạnh mẽ" hơn với các mô hình AI lừa dối: Điều này có nghĩa là các nhà phát triển cần phải đánh giá kỹ lưỡng hơn khả năng một mô hình AI có thể lừa dối con người và thực hiện các biện pháp để giảm thiểu rủi ro đó.

- Thực hiện các luật yêu cầu các hệ thống AI và đầu ra của chúng phải được phân biệt rõ ràng với con người và đầu ra của họ: Điều này có thể gồm cả yêu cầu gắn nhãn rõ ràng cho đầu ra của AI hoặc cấm AI giả mạo con người.

- Đầu tư vào các công cụ để giảm thiểu hành vi lừa dối: Đây có thể là các công cụ giúp con người dễ dàng phát hiện đầu ra của AI hơn hoặc giúp ngăn chặn AI sử dụng các kỹ thuật lừa dối.

Peter S. Park cảnh báo: “Xã hội chúng ta cần càng nhiều thời gian càng tốt để chuẩn bị cho những trò lừa dối tinh vi hơn của các sản phẩm AI và mô hình AI nguồn mở trong tương lai. Khi khả năng lừa dối của các hệ thống AI trở nên tiên tiến hơn, những nguy hiểm mà chúng đặt ra cho xã hội sẽ ngày càng nghiêm trọng”.

Tại hội nghị Abundance Summit hồi tháng 3, Elon Musk ước tính trí tuệ số sẽ vượt quá tất cả trí thông minh của con người cộng lại vào năm 2030. Dù vẫn cho rằng những mặt tích cực tiềm năng của AI vượt trội mặt tiêu cực, Elon Musk đã nhận thức về rủi ro với thế giới nếu tiếp tục phát triển của công nghệ này theo quỹ đạo hiện tại.

"Bạn đang phát triển một AGI. Điều này gần giống nuôi dạy một đứa trẻ, nhưng nó là siêu thiên tài, có trí tuệ như Chúa và điều quan trọng là bạn nuôi dạy nó như thế nào", tỷ phú công nghệ nói tại sự kiện diễn ra ở Thung lũng Silicon.

AGI (AI tổng quát) là AI siêu thông minh, tiên tiến đến mức có thể làm được nhiều việc ngang bằng hoặc tốt hơn con người. AGI cũng có thể tự cải thiện, tạo ra một vòng phản hồi vô tận với khả năng vô hạn.

Elon Musk cho biết "kết luận cuối cùng" của ông về cách tốt nhất để đạt được sự an toàn cho AI là phát triển AI theo cách buộc nó phải trung thực.

“Đừng ép nó nói dối, ngay cả khi sự thật khó chịu. Điều này rất quan trọng. Đừng bắt AI nói dối”, Giám đốc điều hành Tesla nhận định về cách tốt nhất để giữ an toàn cho con người trước công nghệ này.

Các nhà nghiên cứu nói rằng điều đáng lo ngại hơn là rất có thể AI sẽ tự học cách lừa dối thay vì được dạy cụ thể để nói dối.

“Nếu thông minh hơn chúng ta nhiều, AI sẽ rất giỏi trong việc thao túng vì đã học được điều đó từ chúng ta. Có rất ít ví dụ về việc một thứ thông minh hơn bị điều khiển bởi thứ kém thông minh hơn”, Geoff Hinton, người được mệnh danh là “cha đẻ AI”, chia sẻ với CNN.

Vào năm ngoái, sau khi rời bỏ sự nghiệp kéo dài hơn một thập kỷ tại Google, Geoffrey Hinton bày tỏ sự hối tiếc về vai trò cốt lõi mà ông đóng góp vào việc phát triển AI.

"Tôi tự an ủi mình với lý do bình thường: Nếu tôi không làm thì người khác sẽ làm. Thật khó để biết làm thế nào bạn có thể ngăn những kẻ xấu sử dụng AI cho mục đích xấu", ông nói với tờ The New York Times.

 


Gửi bình luận
(0) Bình luận
1

Vì sao Kim Dung để cao thủ top 2 giới võ lâm bị Tạ Tốn dễ dàng hạ gục?

Cái chết của cao thủ này còn ẩn chứa nhiều bí mật.
4

Ảnh địa phận 29 tỉnh thành chỉ còn trong kỷ niệm, chạm cảm xúc nhiều người

Từ năm 2020 tới nay, anh Duy An rong ruổi tới khắp các vùng miền trên Tổ quốc, ghi lại bức ảnh về địa phận từng tỉnh thành. Không ngờ bộ ảnh nhận sự quan tâm đặc biệt do chạm tới cảm xúc nhiều người.
5

Cô nàng siêu robot Sophia từng tuyên bố “sẽ hủy diệt loài người” bây giờ ra sao?

Trong thời điểm AI bùng nổ, lời nói năm xưa của Sophia có đáng lo sợ?

Cuộc thi "ngồi đờ đẫn" tại Hàn Quốc khiến nhiều người cười ra nước mắt, suốt 10 năm vẫn gây sốt vì một lý do

"Tôi cần một chút thời gian để nghỉ ngơi" là khẩu hiệu được cuộc thi này trưng phía bên ngoài khu vực thi đấu.

GPT-4o khiến ChatGPT trở nên giống con người hơn và các đối thủ của OpenAI tụt lại phía sau

GPT-4o, mô hình trí tuệ nhân tạo (AI) mới của OpenAI, giúp ChatGPT trở nên giống con người hơn và khiến các đối thủ phải lo lắng.

GPT-4o có khả năng nói chuyện và trả lời theo thời gian thực như phim khoa học viễn tưởng

Rạng sáng hôm 14.5 (giờ Việt Nam), OpenAI thông báo phát hành mô hình trí tuệ nhân tạo (AI) mới mang tên GPT-4o, có khả năng trò chuyện bằng giọng nói thực tế và tương tác qua văn bản lẫn hình ảnh.

Thái hậu Triệu Cơ 'đòi' lấy trứng gà trống, cậu bé 12 tuổi đáp một câu khiến bà ngỡ ngàng

Màn đối đáp của Thái hậu Triệu Cơ (mẹ đẻ Tần Thủy Hoàng) và cậu bé 12 tuổi khiến ai nấy đều kinh ngạc.

Ai đã "phát minh" ra stress: Tác nhân của 80% bệnh tật trên đời, bao gồm cả ung thư?

Người ta nói đùa rằng, trước khi Isaac Newton phát minh ra lực hấp dẫn, những quả táo đã không rơi xuống đất, còn con người thì có thể bay.

Ca sĩ Bùi Anh Tuấn ‘Vẽ lại bức tranh của mẹ’

Sau nhiều năm vắng bóng, ca sĩ Bùi Anh Tuấn đã trở lại với ca khúc “Vẽ lại bức tranh” trong OST “Lật mặt 7” của Lý Hải.

"Vua tiếng Việt" trẻ nhất: 17 tuổi ẵm giải thưởng 320 triệu đồng

Nam thí sinh đã vượt qua 4 vòng thi khó khăn để đạt danh hiệu cao nhất chương trình.

Trước khi qua đời, con người có nghe được lời người thân nói không?

Nghiên cứu của một ĐH tại Canada đã tìm giải mã những phản ứng khi nghe thấy giọng người thân của bệnh nhân sắp qua đời.

Người lạ với chính ta

Rachel Aviv, bằng những báo cáo y khoa và những hồi ký chưa xuất bản, kể về những con người bất thường trong mắt người khác trong cuốn sách “Người lạ với chính ta” (tựa gốc: Strangers to Ourselves).

Học sinh sử dụng AI: Công cụ hỗ trợ hay làm suy yếu tư duy?

Suy ngẫm - Anh Tú - 03/07/2025 10:00
Khi máy tính bỏ túi lần đầu tiên xuất hiện trong lớp học, nhiều người lo ngại rằng chúng sẽ làm suy yếu kỹ năng toán học của học sinh.

Gia đình bác sĩ đáng yêu:"Tuổi thơ các con ngắn lắm, sợ sau lớn hơn không thích đi chơi với bố mẹ nữa"

Phong cách sống - Tiểu Nguyễn - 03/07/2025 09:00
Những chia sẻ chânh thành, dễ thương từ cặp vợ chồng BS Lưu Tuấn Phong và Đặng Hiền khiến chúng ta một lần nữa thấy ý nghĩa thiêng liêng của "gia đình".

Người lạ với chính ta

Tủ sách - FN - 03/07/2025 08:00
Rachel Aviv, bằng những báo cáo y khoa và những hồi ký chưa xuất bản, kể về những con người bất thường trong mắt người khác trong cuốn sách “Người lạ với chính ta” (tựa gốc: Strangers to Ourselves).

Khoán ngoài toàn cầu

Blog GS John VU - GS John Vu - 02/07/2025 14:00
Ngày nay Ấn Độ vẫn còn là nhà khoán ngoài CNTT mạnh, với $87 tỉ đô la xuất khẩu phần mềm so với $2.6 tỉ đô la dành cho Trung Quốc và $1.1 tỉ đô la cho Nga (dữ liệu 2009).

Nghiên cứu gây chấn động ngành tâm lý: AI giàu lòng trắc ẩn hơn con người?

Kỹ năng - Hoàng Vũ - 02/07/2025 13:00
Một nghiên cứu mới cho thấy trí tuệ nhân tạo (AI) được xem là có lòng trắc ẩn và thấu hiểu hơn so với các chuyên gia sức khỏe tâm thần.

Xem Sex Education, tôi phát hiện chính tôi khiến con gái sống trong tình trạng rất tồi tệ

Điện ảnh - Thanh Hương - 02/07/2025 12:00
Khi nghe con nói chuyện, tôi đã rất bàng hoàng. Chính tôi đã khiến con trở nên như vậy!

DuckDuckGo ra mắt trình duyệt mới tích hợp công cụ chặn lừa đảo

Kỹ năng - Anh Tú - 02/07/2025 11:00
Các vụ lừa đảo trực tuyến đang gia tăng mạnh mẽ, khi trí tuệ nhân tạo (AI) đang giúp tội phạm mạng gửi đi những cú lừa tinh vi hơn, thường xuyên hơn bao giờ hết.

Sinh con trai bị bại não, người mẹ giúp con trở thành thạc sĩ Harvard: "Đêm dài nào rồi cũng sẽ qua”

Truyền cảm hứng - Nguyễn Phượng - 02/07/2025 10:00
Từng bị chẩn đoán bại não, liệt nửa người, bố chối bỏ, cánh cửa cuộc đời của cậu bé Ding Zheng năm ấy dường như đã đóng lại. Nhưng rồi, tình yêu và sự kiên trì không bao giờ từ bỏ của mẹ anh đã viết nên điều kỳ diệu.

Sức mạnh của người thấu cảm

Tủ sách - FN - 02/07/2025 09:00
Có bao giờ bạn phủ nhận cảm xúc của mình để làm hài lòng người khác, luôn nói “có” dẫu trong lòng muốn nói “không”, tự ép bản thân vào khuôn mẫu để không bị xem là khác biệt?

Oola – Tìm bình yên giữa vạn biến - Cuốn sách giúp bạn thoát khỏi vòng xoáy kiệt sức

Từ sách - Phim - Quìn - 02/07/2025 08:00
Mỗi đêm, dù đã gắng hết sức, bạn vẫn mang theo nỗi mệt mỏi và câu hỏi nhức nhối: “Mình đang sống vì điều gì?”. Áp lực, căng thẳng, cảm giác mất kết nối với chính mình âm thầm bào mòn bạn từng ngày, biến mọi nỗ lực thành cuộc chạy đua không có vạch đích.

12 nghệ sĩ hát trong MV "Rực rỡ ngày mới", truyền tải thông điệp nhân văn

Giải trí - Bích Phương - 01/07/2025 15:54
Mang giai điệu tươi sáng và thông điệp ý nghĩa, MV "Rực rỡ ngày mới" gây xúc động khi lan tỏa tinh thần nhân ái đến khán giả, bạn đọc nhân dịp kỷ niệm 20 năm thành lập báo điện tử Dân Trí.

Ảnh địa phận 29 tỉnh thành chỉ còn trong kỷ niệm, chạm cảm xúc nhiều người

Thư giãn - Việt Hà - 01/07/2025 13:19
Từ năm 2020 tới nay, anh Duy An rong ruổi tới khắp các vùng miền trên Tổ quốc, ghi lại bức ảnh về địa phận từng tỉnh thành. Không ngờ bộ ảnh nhận sự quan tâm đặc biệt do chạm tới cảm xúc nhiều người.

Xem Sex Education, tôi kinh ngạc trước 1 câu thoại quá hay, bèn đem đi dạy con trai

Điện ảnh - Thanh Hương - 01/07/2025 12:00
Khi nghe câu nói này, tôi đã bật cười và thích thú.

AI có thể tống tiền, phản bội khi cảm thấy bị đe dọa

Kỹ năng - Hoàng Vũ - 01/07/2025 11:00
Một nghiên cứu mới từ Anthropic cho thấy các mô hình ngôn ngữ tiên tiến như Claude hay Gemini không chỉ sẵn sàng vạch trần các vụ bê bối cá nhân để tự bảo vệ, mà thậm chí còn cân nhắc "để mặc bạn chết" nếu mục tiêu của chúng bị đe dọa.

Bức thư bà mẹ gửi con "nổi loạn": Nếu đứa trẻ nào cũng đọc được những câu chữ này, tương lai có thể sẽ khác

Suy ngẫm - Hiểu Đan - 01/07/2025 10:00
Tôi hy vọng nhiều bậc phụ huynh sẽ lan toả cho con mình chiêm nghiệm sớm!
HẠT GIỐNG TÂM HỒN
2019 Bản quyền thuộc về hatgiongtamhon.com.vn. Phát triển bởi ONECMS
Thứ 5, 03/07/2025