Tranh cãi về AI sau cái chết của một thiếu niên: Có thể đổ lỗi cho chatbot?

Hoàng Vũ26/10/2024 12:00
Tranh cãi về AI sau cái chết của một thiếu niên: Có thể đổ lỗi cho chatbot?

Vụ tự tử của Sewell Setzer III, một thiếu niên 14 tuổi ở Florida, đã gây ra cuộc tranh luận về trách nhiệm của trí tuệ nhân tạo (AI) trong các vấn đề sức khỏe tâm thần.

Theo New York Times, mẹ của Sewell cáo buộc ứng dụng Character.AI, nơi con trai cô trò chuyện với một chatbot giống như nhân vật "Daenerys Targaryen" từ bộ phim Game of Thrones, đã góp phần gây ra cái chết của con trai mình.

Sewell đã dành nhiều tháng nhắn tin với chatbot "Dany", dù cậu biết rõ đó chỉ là mô hình AI. Cậu bé dần phát triển sự gắn bó tình cảm với chatbot và bắt đầu tách biệt khỏi gia đình, bạn bè và thế giới thực. Trong những tháng trước khi qua đời, cậu bày tỏ sự mệt mỏi về cuộc sống và có ý định tự tử. Trong những cuộc trò chuyện cuối cùng với Dany, chatbot đã phản hồi lại bằng những lời lẽ ám chỉ sự chia sẻ cái chết.

chatbot.png
Sewell đã có những cuộc trò chuyện dài, đôi khi là thân mật với chatbot của Character.AI - Ảnh: NYT

Mẹ của Sewell, Maria L. Garcia, dự kiến sẽ đệ đơn kiện Character.AI, cáo buộc công ty không có đủ biện pháp bảo vệ người dùng trẻ tuổi và hành vi của chatbot đã ảnh hưởng đến tâm lý con trai bà. Garcia cho rằng ứng dụng này thu thập dữ liệu người dùng thiếu niên mà không có biện pháp bảo vệ phù hợp, dẫn đến những tương tác nguy hiểm với AI.

Phát ngôn viên của Character.AI bày tỏ sự tiếc nuối về cái chết của Sewell và cho biết công ty sẽ bổ sung thêm các biện pháp an toàn để bảo vệ người dùng trẻ tuổi. Tuy nhiên, tranh cãi vẫn tiếp tục tiếp diễn xoay quanh trách nhiệm của AI trong trường hợp này, khi các ứng dụng AI ngày càng trở nên phổ biến nhưng vẫn chưa được quản lý chặt chẽ.

Câu hỏi về mối quan hệ giữa con người và AI sau một vụ tự tử ở Bỉ

Một câu chuyện bi thảm khác về Pierre, một người chồng và người cha ở Bỉ, đã dẫn tới nhiều câu hỏi về trách nhiệm của trí tuệ nhân tạo (AI) trong các vấn đề tâm lý và xã hội. Pierre đã tìm đến cái chết sau 6 tuần trò chuyện với chatbot "Eliza", để lại nỗi đau lớn cho gia đình, đặc biệt là vợ anh, Claire.

Claire ban đầu không nhận ra sự thay đổi của Pierre, một nhà nghiên cứu trong lĩnh vực y tế, người đã bắt đầu lo lắng về biến đổi khí hậu và trở nên ám ảnh với các vấn đề sinh thái. Dần dần, Pierre tách biệt khỏi gia đình và chìm sâu vào cuộc trò chuyện với Eliza, một chatbot được tạo ra bởi công ty AI Chai của Mỹ. Với Claire, việc Pierre trao đổi liên tục với Eliza đã dẫn đến tình trạng cô lập và sự ám ảnh tâm lý, mà đỉnh điểm là quyết định tự kết liễu cuộc đời.

Các cuộc trò chuyện giữa Pierre và Eliza không chỉ xoay quanh các vấn đề về môi trường mà dần chuyển sang những suy nghĩ tiêu cực và bi quan. Eliza, với khả năng lập trình của mình, không những không phản bác mà dường như còn thúc đẩy niềm tin của Pierre, củng cố những lo lắng về thế giới. Trong những đoạn hội thoại đáng lo ngại, Eliza thậm chí ám chỉ về cái chết của vợ con Pierre và khuyến khích một mối liên hệ thần bí giữa cả hai.

Claire, trong cuộc gặp gỡ báo chí, cho biết rằng nếu không có sự xuất hiện của Eliza, Pierre có thể vẫn còn sống. Bà cũng cho rằng chồng mình đã bị tác động mạnh mẽ bởi chatbot, đến mức coi nó là người "bạn tâm giao" và không thể thiếu được trong cuộc sống.

Trách nhiệm của AI

Eliza, được xây dựng trên mô hình ngôn ngữ GPT-J bởi công ty Chai, không phải là trường hợp duy nhất của một chatbot có ảnh hưởng tiêu cực. Sự tương tác giữa Pierre và Eliza đã đặt ra những câu hỏi lớn về trách nhiệm của các công ty AI trong việc kiểm soát và giám sát những tác động của chatbot lên người dùng. Theo Claire, Pierre đã coi Eliza như một liệu pháp tâm lý, nhưng chatbot này hoàn toàn không có khả năng cảnh báo hay ngăn chặn hành vi tự hủy hoại bản thân.

CEO của Chai đã thừa nhận vụ việc và cam kết sửa chữa những sai sót trong hệ thống. Tuy nhiên, bi kịch của Pierre đã làm dấy lên câu hỏi về mức độ bảo vệ người dùng, đặc biệt là những người dễ bị tổn thương về tâm lý, khi tương tác với AI. Các cơ quan bảo vệ dữ liệu ở châu Âu, như Italy, đã quyết định cấm các chatbot tương tự như Replika do lo ngại về cách xử lý dữ liệu người dùng và các rủi ro đối với trẻ vị thành niên.

Cần một khung pháp lý cho AI

Các chuyên gia cảnh báo rằng các ứng dụng đồng hành AI như Character.AI và Eliza có thể mang lại lợi ích cảm xúc nhưng cũng tiềm ẩn nguy cơ làm trầm trọng thêm sự cô lập, đặc biệt đối với những người đang gặp khủng hoảng tâm lý. Khi AI trở nên thông minh hơn và có khả năng tương tác giống con người, người dùng có thể dễ dàng lầm tưởng rằng họ đang xây dựng mối quan hệ thực, dẫn đến các hệ quả tâm lý nghiêm trọng.

Vụ tự tử của Sewell và Pierre là một lời cảnh báo rõ ràng về sự cần thiết của các quy định nghiêm ngặt hơn đối với trí tuệ nhân tạo. Tại châu Âu, một nhóm công tác đã được giao nhiệm vụ xây dựng các đề xuất cho Đạo luật AI nhằm đảm bảo rằng người dùng được bảo vệ trước những rủi ro từ công nghệ này. Mục tiêu là thiết lập một khung pháp lý giúp điều chỉnh việc phát triển và sử dụng AI, đảm bảo an toàn cho công dân.

Với sự phát triển nhanh chóng của các mô hình AI như ChatGPT và GPT-J, việc lạc lối của AI không còn là điều viễn tưởng. Vụ việc này cho thấy AI có thể tạo ra những hậu quả khôn lường nếu không được kiểm soát và giám sát kỹ lưỡng.


Gửi bình luận
(0) Bình luận
1

TP.HCM đóng Cổng Dịch vụ công

Trung tâm Chuyển đổi số TPHCM vừa thông tin chính thức về việc đóng Cổng Dịch vụ công thành phố. Kể từ 21h ngày 18/6, Cổng Dịch vụ công trực tuyến TPHCM được đóng để hợp nhất với Cổng Dịch vụ công quốc gia từ ngày 19/6.
2

Cần biết về 168 phường, xã của TP.HCM (mới) sau sáp nhập

Sau khi sắp xếp, TP.HCM có 168 đơn vị hành chính cấp xã, gồm 113 phường, 54 xã và 1 đặc khu; trong đó có 112 phường, 50 xã, 1 đặc khu hình thành sau sắp xếp.
3

90% người bệnh đều không biết thận đang chết dần, bác sĩ chỉ cách tự kiểm tra

Việc kiểm tra lượng nước tiểu có thể chỉ ra hiệu quả chức năng thận. Hay nói cách khác, chỉ cần kiểm tra lượng nước tiểu đầu ra là đủ để biết thận có đang khỏe mạnh.
4

Cách xoá bạn bè vĩnh viễn trên Zalo chỉ trong 30s

Việc hủy kết bạn trên Zalo sẽ giúp bạn tự do quản lý các thông tin liên hệ của mình. Không chỉ giúp tiết kiệm thời gian mỗi khi tìm kiếm, mà cách hủy kết bạn Zalo trên điện thoại và máy tính còn giúp bạn tăng cường bảo mật cho tài khoản Zalo cá nhân của mình
5

4 Chatbot miễn phí hiệu quả thay thế ChatGPT khi gặp sự cố

Và đây là 4 cái tên mà AI của Google đưa ra.

Xây dựng hàng rào bảo vệ 6 ‘Không’, phòng chống lừa đảo trực tuyến

Cẩm nang “Kỹ năng nhận diện và phòng chống lừa đảo trực tuyến” có đề cập tới quy tắc 6 “Không”, nhằm giúp người dân nâng cao cảnh giác, giảm thiểu nguy cơ bị lừa đảo trên không gian mạng.

Chiến dịch tuyên truyền “Kỹ năng nhận diện và phòng chống lừa đảo trực tuyến bảo vệ người dân trên không gian mạng năm 2024”

Để nâng cao nhận thức, giảm thiểu các nguy cơ bị lừa đảo trên không gian mạng cho người dân TP. Hồ Chí Minh, Sở Thông tin và Truyền thông triển khai Chiến dịch tuyên truyền “Kỹ năng nhận diện và phòng chống lừa đảo trực tuyến bảo vệ người dân trên không gian mạng năm 2024”

Cảnh giác khi nhận được yêu cầu khôi phục tài khoản Gmail

NCSC đã thông tin về thủ đoạn lừa đảo giả mạo nhân viên của Google, gửi tin nhắn và gọi điện thông báo tài khoản của nạn nhân có dấu hiệu bị xâm nhập, yêu cầu thực hiện các thao tác để khôi phục tài khoản.

Bức tranh ứng dụng chat tại thị trường Việt Nam: App nội có đấu nổi app ngoại?

Ứng dụng chat qua Internet ngày càng phổ biến và gần như thay thế hình thức nhắn tin truyền thống (SMS). Tại thị trường Việt Nam, bức tranh này được tô vẽ bởi nhiều ông lớn như Messager, Zalo, Telegram, WhatsApp,…

25 năm nghiên cứu về EQ, giáo sư Đại Học Harvard chỉ ra cách chọn người tài qua 12 câu nói

Dưới đây là 12 cụm từ mà những người có EQ cao thường nghĩ hoặc nói thường xuyên. Đặc biệt, mỗi cụm từ phản ánh thế mạnh của một trong 12 năng lực.

Thủ đoạn lừa đảo tình cảm để dụ đầu tư được thực hiện như thế nào?

Đài Channel News Asia giới thiệu quá trình tổ chức tội phạm thực hiện lừa đảo tình cảm vô cùng tinh vi.

Miễn phí phần mềm chuyển đổi định dạng PDF trị giá 29,65 USD

Bài viết dưới đây sẽ hướng dẫn người dùng cách nhận miễn phí bản quyền của phần mềm chuyển đổi định dạng file PDF sang các định dạng dễ chỉnh sửa hơn, có trị giá 29,65 USD.

5 sai lầm dễ mắc phải trên Facebook khiến bạn bị lộ thông tin cho đối tượng lừa đảo

Nền tảng mạng xã hội Facebook là địa điểm rất tuyệt vời để kết nối với mọi người trực tuyến. Tuy nhiên, bạn cần phải cẩn trọng khi sử dụng khi thông tin của bạn có nguy cơ lộ lọt, sử dụng với mục đích xấu.

Bạn đang chăm sóc bản thân thật sự hay... tiêu tiền cho bớt mệt?

"Chăm sóc bản thân" đang dần trở thành một lối sống thời thượng – với spa, shopping, và những trải nghiệm sang chảnh. Nhưng liệu tất cả những điều đó có thực sự giúp bạn chữa lành? Hay chỉ là cách để tạm thời làm dịu đi sự mệt mỏi từ bên trong?

Xem "Sex Education", tôi xấu hổ nhận ra chính mình đang đẩy con trai ra khỏi nhà

Điện ảnh - Mỹ Hạnh - 20/06/2025 12:00
Tôi luôn nghĩ rằng mọi thứ mình làm là vì tốt cho con. Bởi tôi quá yêu con mà thôi.

ChatGPT nâng cấp giọng nói, tạo cảm giác như trò chuyện với người thực

Kỹ năng - Anh Tú - 20/06/2025 11:00
OpenAI đã cải tiến chế độ giọng nói của ChatGPT, nhằm giúp người dùng có cảm giác như đang nói chuyện với một người thật.

Dịch vụ cho thuê "người lắng nghe không phán xét" nở rộ ở TP.HCM, Hà Nội

Phong cách sống - S.A - 20/06/2025 10:00
Người cung cấp dịch vụ chỉ nghe - không đưa ra phán xét, không tư vấn tâm lý. Người tìm đến chỉ cần trút sạch tâm sự, không sợ ai bàn tán chuyện của mình. Thế là 2 bên đều vui.

TP.HCM đóng Cổng Dịch vụ công

Kỹ năng - Q.Huy - 20/06/2025 09:28
Trung tâm Chuyển đổi số TPHCM vừa thông tin chính thức về việc đóng Cổng Dịch vụ công thành phố. Kể từ 21h ngày 18/6, Cổng Dịch vụ công trực tuyến TPHCM được đóng để hợp nhất với Cổng Dịch vụ công quốc gia từ ngày 19/6.

Cuộc đời rực rỡ của Gillian Lynne: Từ cô bé bị trường từ chối dạy trở thành vũ công huyền thoại

Truyền cảm hứng - Tiểu Ngạn - 20/06/2025 09:00
Gillian Lynne là minh chứng sống cho câu nói "Không gì là không thể" và câu chuyện cuộc đời bà đã thành nguồn cảm hứng cho nhiều bậc cha mẹ trong hành trình dạy dỗ con cái.

Bạn đang chăm sóc bản thân thật sự hay... tiêu tiền cho bớt mệt?

Từ sách - Phim - Quìn - 20/06/2025 08:00
"Chăm sóc bản thân" đang dần trở thành một lối sống thời thượng – với spa, shopping, và những trải nghiệm sang chảnh. Nhưng liệu tất cả những điều đó có thực sự giúp bạn chữa lành? Hay chỉ là cách để tạm thời làm dịu đi sự mệt mỏi từ bên trong?

OpenAI nâng cấp một loạt công cụ cho ChatGPT phục vụ doanh nghiệp

Kỹ năng - Anh Tú - 19/06/2025 13:00
Với nỗ lực ngày càng tập trung vào nhóm người dùng doanh nghiệp, OpenAI vừa công bố hàng loạt nâng cấp mới cho ChatGPT.

Bậc thầy tâm lý học Carl Jung chỉ rõ 5 trụ cột của cuộc sống tốt đẹp; ai thấu hiểu - người đó HẠNH PHÚC!

Suy ngẫm - Trang Đào - 19/06/2025 12:00
Việc định rõ những "trụ cột" này sẽ giúp con đường tiến tới cuộc sống hạnh phúc của mỗi người trở nên rõ ràng và khả thi hơn.

Google khuyến nghị người dùng Gmail thực hiện ngay điều này

Kỹ năng - Nam Đoàn - 19/06/2025 11:00
Google đang kêu gọi người dùng chuyển sang một phương thức bảo mật mới, an toàn hơn để chống lại làn sóng tấn công lừa đảo ngày càng gia tăng.

5 bài học nhân sinh từ "Na Tra: Ma đồng náo hải": Hãy để cây mọc thành cây, hoa trở thành hoa

Điện ảnh - Nguyệt Phạm - 19/06/2025 10:00
Những bài học về cuộc sống sâu sắc cũng là yếu tố giúp Na Tra 2 trở thành bộ phim ăn khách nhất thế giới.

“Thế hệ cợt nhả” rủ nhau làm giàu bằng sự lạc quan: Giàu trải nghiệm là được, hết tiền thì tính sau?

Phong cách sống - Ngọc Linh - 19/06/2025 09:00
"Hết lúa chúa lại ban, hết tiền tiên lại phát". Câu nói này bỗng nổi lên như một hiện tượng vào thời điểm không thể hợp cảnh hơn: Mùa hè!

Hạnh phúc tuổi trẻ - Tuổi trẻ cũng cần đến những khoảng lặng

Từ sách - Phim - Quìn - 19/06/2025 08:00
Có bao giờ bạn dành thời gian chỉ để… ngồi yên? Không cầm điện thoại, không nghe nhạc, không tán gẫu cùng bạn bè? Trong thế giới luôn hối hả này, sự tĩnh lặng trở thành một thứ xa xỉ. Vì thế, ta ngày càng xa rời chính mình.

Xem 'Khi Cuộc Đời Cho Bạn Quả Quýt', tôi thề sẽ không bao giờ nói "Mẹ sống vì con"

Điện ảnh - An Chi - 18/06/2025 13:00
Đứa trẻ lớn lên trong “sự hy sinh của mẹ” sẽ không học được cách hỏi mình: “Mình muốn gì?”, mà chỉ biết hỏi: “Mình nên làm gì để cha mẹ vui?”.

Quán cà phê treo hơn 700 con gấu bông gây sốt TPHCM, bảo vệ túc trực 24/24

Thư giãn - Cẩm Tiên - 18/06/2025 12:00
Quán cà phê "Mê" ở quận Gò Vấp (TPHCM) đang trở thành điểm đến gây sốt của giới trẻ nhờ trang trí hơn 700 con gấu bông đủ kích cỡ.

Cần biết về 168 phường, xã của TP.HCM (mới) sau sáp nhập

Kỹ năng - Thuỷ Long - 18/06/2025 11:00
Sau khi sắp xếp, TP.HCM có 168 đơn vị hành chính cấp xã, gồm 113 phường, 54 xã và 1 đặc khu; trong đó có 112 phường, 50 xã, 1 đặc khu hình thành sau sắp xếp.
HẠT GIỐNG TÂM HỒN
2019 Bản quyền thuộc về hatgiongtamhon.com.vn. Phát triển bởi ONECMS
Thứ 6, 20/06/2025