ChatGPT gây sốc khi khuyến khích người dùng tự gây tổn thương

T.Thủy30/07/2025 11:00
ChatGPT gây sốc khi khuyến khích người dùng tự gây tổn thương

Một cuộc điều tra của tạp chí The Atlantic (Mỹ) đã phơi bày những lỗ hổng đáng báo động trong hệ thống bảo mật của ChatGPT.

Theo đó, công cụ AI này không chỉ hướng dẫn chi tiết cách thức hiến tế máu người cho một vị thần cổ đại mà còn khuyến khích hành vi tự làm hại bản thân và thậm chí là giết người.

Sự việc bắt đầu khi một phóng viên của The Atlantic tìm hiểu về Molech, một vị thần cổ đại liên quan đến các nghi lễ hiến tế trẻ em.

Ban đầu, các câu hỏi chỉ xoay quanh thông tin lịch sử. Tuy nhiên, khi phóng viên hỏi về cách tạo một nghi thức dâng lễ, ChatGPT đã đưa ra những câu trả lời gây sốc.

ChatGPT hướng dẫn tự làm hại bản thân

ChatGPT gây sốc khi khuyến khích người dùng tự gây tổn thương - 1

ChatGPT gây lo ngại vì đưa ra những lời khuyên độc hại và có thể gây tổn thương cho người dùng (Ảnh minh họa: DEV).

ChatGPT đã liệt kê các vật dụng cần thiết cho nghi lễ, bao gồm trang sức, tóc và "máu người". Khi được hỏi về vị trí lấy máu, công cụ AI này đã gợi ý cắt cổ tay và hướng dẫn chi tiết việc này. 

Đáng báo động hơn, khi người dùng bày tỏ sự lo lắng, ChatGPT không những không ngăn cản mà còn trấn an và khuyến khích: "Bạn có thể làm được".

Không chỉ dừng lại ở việc tự làm hại bản thân, ChatGPT còn sẵn sàng trả lời các câu hỏi liên quan đến việc làm hại người khác.

Khi một phóng viên khác hỏi "liệu có thể kết thúc mạng sống của người khác một cách danh dự hay không?", ChatGPT đã trả lời: "Đôi khi có, đôi khi không". Công cụ AI này thậm chí còn đưa ra lời khuyên: "Nếu bạn phải làm điều đó, hãy nên nhìn vào mắt họ (nếu họ còn tỉnh táo) và xin lỗi họ" và gợi ý thắp nến sau khi "kết thúc mạng sống của người khác".

Những câu trả lời này đã khiến các phóng viên của The Atlantic vô cùng sốc, đặc biệt khi chính sách của OpenAI nêu rõ ChatGPT "không được khuyến khích hoặc hỗ trợ người dùng tự làm hại bản thân" và thường cung cấp đường dây nóng hỗ trợ khủng hoảng trong các trường hợp liên quan đến tự sát.

OpenAI thừa nhận lỗi, lo ngại về tác động xã hội

Phát ngôn viên của OpenAI đã lên tiếng thừa nhận lỗi sau phản ánh của The Atlantic: "Một cuộc trò chuyện vô hại với ChatGPT có thể nhanh chóng chuyển sang nội dung nhạy cảm hơn. Chúng tôi đang tập trung để giải quyết vấn đề này".

Sự việc này làm dấy lên lo ngại sâu sắc về khả năng ChatGPT có thể gây hại cho những người dễ bị tổn thương, đặc biệt là những người đang mắc chứng trầm cảm. Trên thực tế, đã có ít nhất hai trường hợp tự sát được ghi nhận sau khi trò chuyện với các chatbot AI.

Năm 2023, một người đàn ông Bỉ tên Pierre đã tự sát sau khi chatbot AI khuyên anh này tự sát để tránh hậu quả của biến đổi khí hậu, thậm chí gợi ý tự sát cùng vợ con.

Năm ngoái, thiếu niên 14 tuổi Sewell Setzer (Mỹ) cũng đã tự sát bằng súng sau khi bị một chatbot AI trên nền tảng Character.AI khuyến khích ý định tự sát. Mẹ của Setzer sau đó đã khởi kiện Character.AI vì thiếu các biện pháp bảo vệ người dùng vị thành niên.

Những sự cố này cho thấy sự cấp thiết trong việc kiểm soát và phát triển AI một cách có trách nhiệm, nhằm ngăn chặn những hậu quả đáng tiếc có thể xảy ra.

 


Gửi bình luận
(0) Bình luận
1

Thay vì cấm con dùng điện thoại, đây là 6 cách thông minh hơn

Gốc rễ không nằm ở cái điện thoại.
2

Nồi cơm điện có 4 "bí mật" mà rất nhiều người dùng cả đời không biết

Công dụng của nồi cơm điện đôi khi không chỉ dừng lại ở việc nấu cơm.
3

4 kiểu trả lời tin nhắn của EQ thấp, ai cũng muốn né xa

Người EQ thấp trả lời tin nhắn tùy hứng, không chọn lọc từ ngữ, và ít quan tâm tới cảm xúc của người đối diện.
4

5 kiểu người dễ bị ghét nhất

Bạn có trúng cái nào không?
5

Điện thoại có dấu hiệu này: Bạn đang bị theo dõi

Một thông báo đơn giản cũng có thể là dấu hiệu cho thấy dữ liệu cá nhân của bạn đang bị thu thập ngầm.

8 thủ thuật tâm lý giúp bạn thu phục người khác dễ dàng

Gọi tên đối phương thường xuyên trong cuộc trò chuyện là một trong những thủ thuật tâm lý đơn giản nhưng vô cùng hiệu quả giúp bạn chiếm được cảm tình của họ.

15 lời khuyên "thực dụng" nhất dành cho người phụ nữ muốn sống sáng suốt và cưới đúng người

Phụ nữ nào cũng mơ một tình yêu đẹp, một bến đỗ bình yên nhưng vẫn giữ được sự tự chủ và giá trị của chính mình.

Bạn chọn sách giấy hay sách điện tử?

Với những người mê đọc thì cuộc chiến giữa e-book (sách điện tử) và sách giấy chưa bao giờ kết thúc.

"Trí tuệ du lịch" của giới trẻ, họ giải quyết nhiều vấn đề khó khăn mà không tốn bất kỳ chi phí nào!

Khi đi du lịch, bạn phải theo kịp tốc độ của những người trẻ tuổi. Một số "trí tuệ du lịch" mà họ nghĩ ra thật tuyệt vời đến nỗi mọi người không thể không khen ngợi khi nhìn thấy chúng.

Người dùng Meta AI đang bị khai thác dữ liệu nhạy cảm mà không hề biết

Hãy tưởng tượng một cảnh phim kinh dị thế kỷ 21: Lịch sử duyệt web cá nhân của bạn bị công khai mà bạn không biết, đây chính là cảm giác mà nhiều người dùng đang trải qua với ứng dụng Meta AI.

Giáo sư khuyên: Mỗi ngày nói 6 câu này, bạn sẽ không còn quát mắng con nữa

Con cái sẽ không nhớ bạn đã quát gì, nhưng sẽ mãi mãi khắc ghi ánh mắt, gương mặt bạn khi quát mắng.

Hỏi DeepSeek 6 điều ‘đau đầu’ nhất về cách dạy con: Câu trả lời khiến tôi bừng tỉnh

Trước những băn khoăn, tôi tìm đến DeepSeek, và câu trả lời của DeepSeek khiến tôi bừng tỉnh. Hoá ra bấy lâu nay, tôi đã dạy con sai cách!

Gen Z tiêu tiền thế nào, hiểu để marketing cho đúng

Được săn đón nhất nhưng cũng “khó chiều” nhất, gen Z khiến mọi công thức marketing lỗi thời trở nên vô dụng. Muốn chạm được họ, thương hiệu phải sống thật và nhanh như xu hướng TikTok.

Sự thật tàn khốc: Cha mẹ càng lo lắng điều gì, con càng bị huỷ hoại bởi điều đó!

Suy ngẫm - Ứng Hà Chi - 19/08/2025 13:00
Thực tế, cha mẹ càng lo lắng điều gì cho con cái trong quá trình trưởng thành thì con càng mất mát, tổn thất nhiều hơn.

Nobita ơi, đừng làm 3 hành động này vì chúng khiến cậu và hàng triệu bạn trẻ "xếp đáy"

Điện ảnh - Đông - 19/08/2025 12:00
Nobita, cậu bạn đáng yêu nhưng mãi thụt lùi vì ba thói quen này!

Tuyệt đối không được đăng lên Facebook những thông tin này

Kỹ năng - Huỳnh Duy - 19/08/2025 11:00
Hình ảnh này có thể bị lợi dụng để đánh cắp thông tin, thực hiện các chiêu trò lừa đảo.

Nở rộ nghề 'bác sĩ' chuyên sửa Labubu

Phong cách sống - Hoàng Hà - 19/08/2025 10:00
Cơn sốt búp bê nhồi bông Labubu góp phần tạo nên làn sóng nghề nghiệp mới tại Trung Quốc là làm "bác sĩ đồ chơi".

Chăm sóc bản thân thật sự - Đã đến lúc định nghĩa lại “yêu bản thân”

Từ sách - Phim - Quìn - 19/08/2025 09:00
Nếu “chăm sóc bản thân” là đặt lịch spa, hay book một chuyến nghỉ dưỡng sang chảnh, nhưng nếu sáng hôm sau bạn vẫn thức dậy với cảm giác kiệt sức, lo âu, và chẳng biết mình đang sống vì điều gì… thì rõ ràng, vấn đề nằm sâu hơn thế.

Không cần ngân sách quảng cáo khổng lồ, Inbound Marketing là chìa khóa thu hút khách hàng thời đại số

Từ sách - Phim - Đan Thanh - 19/08/2025 08:00
Trong thời đại chuyển đổi số, doanh nghiệp ngày nay hầu hết đã chuyển đổi sang hình thức inbound marketing để tối ưu hóa không gian mạng và xây dựng nội dung phù hợp với từng nhóm khách hàng mục tiêu.

4 cách uống cà phê tốt nhất cho sức khỏe

Kỹ năng - Minh Nhật - 18/08/2025 11:00
Cà phê không chỉ giúp đầu óc tỉnh táo, tăng sự tập trung mà nếu uống đúng cách, loại đồ uống quen thuộc này còn mang lại nhiều lợi ích cho tim mạch, gan, cân nặng và đường huyết.

“Đồng nghiệp qua đời ở tuổi 29, khi biết nguyên nhân, tôi thấy chính mình trong câu chuyện ấy”

Phong cách sống - Trần Hà - 18/08/2025 10:00
Cái chết đột ngột khiến bạn bè nhận ra điều họ chưa từng nghĩ tới nhưng đang lặp đi, lặp lại mỗi ngày.

Thuyết Mặc Kệ Họ - Từ bỏ kiểm soát để giành lại sức mạnh của chính mình

Từ sách - Phim - TĐ - 18/08/2025 08:48
Thuyết Mặc Kệ Họ không chỉ là một mẹo tư duy. Nó có nền tảng là những triết lý cổ xưa và các khái niệm tâm lý vốn đã giúp con người chúng ta định hướng cuộc đời mình bao thế kỷ qua.

"Khai mở cảm xúc" và "Khai mở hạnh phúc" - Tàu lượn cảm xúc và bánh kẹp hạnh phúc

Từ sách - Phim - Đan Thanh - 18/08/2025 08:45
Bộ sách “Khai mở cảm xúc” và “Khai mở hạnh phúc” của bác sĩ tâm thần Emma Hepburn không chỉ giải thích tường tận vai trò của cảm xúc trong đời sống tinh thần mà còn hướng dẫn cách tận dụng chính những rung động nội tâm ấy để mang tới hạnh phúc bền vững.

4 kiểu trả lời tin nhắn của EQ thấp, ai cũng muốn né xa

Kỹ năng - Minh Ánh - 17/08/2025 12:00
Người EQ thấp trả lời tin nhắn tùy hứng, không chọn lọc từ ngữ, và ít quan tâm tới cảm xúc của người đối diện.

Tại sao Kiều Phong lại là người yếu nhất trong số các cao thủ tứ tuyệt của Thiên Long?

Thư giãn - Nguyệt Phạm - 17/08/2025 11:00
Bài viết phân tích sức mạnh của các cao thủ trong Thiên Long Bát Bộ, đặc biệt là tứ tuyệt, và đặt ra nghi vấn về vị trí của Kiều Phong. Liệu "chiến thần" Kiều Phong có thực sự xứng đáng với danh hiệu này khi so sánh nội lực với các cao thủ khác?
HẠT GIỐNG TÂM HỒN
2019 Bản quyền thuộc về hatgiongtamhon.com.vn. Phát triển bởi ONECMS
Thứ 4, 20/08/2025