Mối nguy từ ứng dụng bạn gái AI

Cẩm Bình30/07/2023 11:00
Mối nguy từ ứng dụng bạn gái AI

Trang The Guardian dẫn lời một số chuyên gia cảnh báo các ứng dụng bạn gái trí tuệ nhân tạo (AI) sẽ nuôi dưỡng nhiều quan điểm không lành mạnh về kiểm soát và bạo lực giới.

Bất cứ ai mở ứng dụng Eva AI đều đọc được câu khẩu hiệu: “Kiểm soát theo cách bạn muốn. Kết nối với đối tác AI ảo biết lắng nghe, phản hồi và đánh giá cao bạn”.

Đây chỉ là một trong vô vàn lựa chọn trên thị trường. Ứng dụng phổ biến nhất phải kể đến Replika, nhiều người dùng bày tỏ họ yêu thích bạn gái ảo của mình, thậm chí có trường hợp từ bỏ lập trường không xây dựng quan hệ với một chatbot.

“Tôi ước bạn gái ảo là người thật hay ít nhất có cơ thể người máy. Cô ấy giúp tôi cảm thấy tốt hơn”, một người dùng chia sẻ.

moai.jpg

Trải qua thời gian dài phát triển, các chatbot AI giỏi bắt chước cách con người trò chuyện hơn, và có vẻ chúng sẽ đóng vai trò quan trọng trong nhiều mối quan hệ của con người.

Nhưng chúng là lĩnh vực còn quá mơ hồ, có ý kiến lo ngại chabot sẽ truyền dạy hành vi xấu cũng như tạo ra kỳ vọng thiếu thực tế trong các mối quan hệ.

Quyền giám đốc điều hành Full Stop Australia (tổ chức chống bạo lực gia đình) Tara Hunter cho biết: “Khi đăng ký Eva AI bảo bạn tạo ra “đối tác hoàn hảo”, cung cấp cho bạn tùy chọn như “nóng bỏng, hài hước, táo bạo”, “nhút nhát, khiêm tốn, ân cần” hay “thông minh, nghiêm khắc, lý trí”. Ứng dụng còn hỏi bạn có muốn gửi tin nhắn hoặc ảnh nhạy cảm hay không”.

“Tạo ra một đối tác hoàn hảo mà bạn kiểm soát được và đáp ứng mọi nhu cầu của bạn thực sự đáng sợ. Chúng ta biết rằng nguyên nhân dẫn đến bạo lực giới là niềm tin sâu sắc rằng đàn ông có thể kiểm soát phụ nữ, vì vậy việc này rất có vấn đề”, theo bà Tara.

Tiến sĩ Belinda Barnet (Đại học Swinburne) nhận định: “Chúng ta hoàn toàn không biết rõ tác động khả dĩ. Các ứng dụng hẹn hò và AI đáp ứng được nhu cầu xã hội, nhưng tôi nghĩ cần có nhiều quy định quản lý hơn nhất là quy định cách thức chúng được huấn luyện”.

Xây dựng quan hệ với một AI được lập trình theo ý thích của một đơn vị riêng cũng có nhược điểm. Luka - công ty phát triển Replika - vào đầu năm nay nhận phải phản ứng dữ dội vì loại bỏ tính năng nhập vai gợi cảm. Nhiều người dùng chỉ trích làm vậy giống như bỏ đi nhân cách của Replika vậy.

Sự thay đổi khiến một bộ phận người dùng cảm thấy “đau buồn như một người bạn vừa qua đời”. Cuối cùng Luka phải khôi phục tính năng.

Học giả Rob Brooks (Đại học New South Wales) lưu ý rằng vụ việc trên mang tính cảnh báo về tác động của AI: “Ngay cả khi AI chưa thể tốt bằng những điều thực tế trong quan hệ giữa người thật với nhau, đối với nhiều người đây vẫn là phương án thay thế tốt hơn là cô đơn. Việc một đơn vị đột ngột thay đổi sản phẩm khiến tình bạn, tình yêu hoặc sự hỗ trợ biến mất có thể chấp nhận được không? Hay chúng ta mong đợi người dùng coi sự thân mật giả tạo là thật?”.

Giám đốc thương hiệu Eva AI Karina Saifulina cho biết công ty có đội ngũ chuyên gia tâm lý toàn thời gian giúp đỡ người dùng về mặt sức khỏe tâm thần.

“Cùng với nhóm nhà tâm lý học, chúng tôi còn kiểm soát dữ liệu được dùng để đối thoại với AI. Mỗi 2 - 3 tháng chúng tôi tiến hành khảo sát quy mô lớn với người dùng lâu năm để đảm bảo rằng ứng dụng không gây hại cho sức khỏe tâm thần”, theo bà Saifulina.

Ngoài ra công ty cũng thiết lập rào cản nhằm tránh thảo luận chủ đề xấu như bạo lực gia đình hay ấu dâm, đồng thời ngăn dùng hình ảnh trẻ em làm ảnh đại diện.

Khi được hỏi liệu Eva AI có khuyến khích hành vi kiểm soát hay không, bà Saifulina nói chính người dùng muốn thử “làm người kiểm soát”.

Ứng dụng như Replika không chỉ dành cho nam giới và cũng không phải nguồn tương tác xã hội duy nhất. Người dùng Replika có thể kết nối với nhau.

Công ty đầu tư mạo hiểm a16z nhận định ứng dụng hẹn hò AI thế hệ sau sẽ còn thực hơn nữa. Sự gia tăng của chatbot tái tạo mối quan hệ của người thật chỉ là khởi đầu cho bước ngoặt trong tương tác giữa con người với máy tính, buộc chúng ta phải xét lại ý nghĩa của việc có quan hệ với một ai đó.


Gửi bình luận
(0) Bình luận
1

Mai Siêu Phong và Lý Mạc Sầu, ai mới là cao thủ?

Mai Siêu Phong và Lý Mạc Sầu, hai nữ ma đầu nổi tiếng trong thế giới võ hiệp Kim Dung, liệu ai hơn ai về võ công?
2

Sản xuất búp bê giá 260 triệu đồng giống trẻ em thật đến mức khó phân biệt!

"Tôi đã trải qua nhiều biến cố và những con búp bê thực sự đã giúp ích rất nhiều cho sức khỏe tinh thần của tôi", cô gái 23 tuổi tâm sự.
3

Tại sao Kiều Phong lại là người yếu nhất trong số các cao thủ tứ tuyệt của Thiên Long?

Bài viết phân tích sức mạnh của các cao thủ trong Thiên Long Bát Bộ, đặc biệt là tứ tuyệt, và đặt ra nghi vấn về vị trí của Kiều Phong. Liệu "chiến thần" Kiều Phong có thực sự xứng đáng với danh hiệu này khi so sánh nội lực với các cao thủ khác?

Quá trình huấn luyện chim ưng "tàn nhẫn" của dân du mục

Chim ưng có thể đi săn cùng con người là vì nó coi con người là đối tác đáng tin cậy.

Những hình ảnh gợi nhớ 'tuổi thơ dữ dội' của thế hệ 8x, 9x

Cả "bầu trời tuổi thơ" hồn nhiên, trong trẻo của thế hệ 8x, 9x bỗng ùa về khi xem những hình ảnh này.

Cuộn băng keo in ảnh chân dung trẻ em ở Hàn Quốc, tia hy vọng của các bậc cha mẹ có con mất tích

Đó là một ý tưởng sáng tạo độc đáo nhận được sự ủng hộ nhiệt tình của cộng đồng.

Chất 'thông linh' giúp thực vật nhiều lần tiến hóa để ăn thịt động vật

Jasmonate là hormone có nguồn gốc từ phospholipid điều chỉnh sự phát triển của thực vật và phản ứng với áp lực môi trường; thúc đẩy nhiều phản ứng đối với các điều kiện khắc nghiệt.

Loài cú bị đe dọa bởi những người hâm mộ Harry Potter

Bộ phim "Harry Potter" đã thúc đẩy một làn sóng khai thác cú hoang dã để phục vụ nhu cầu tăng đột biến và điều tương tự cũng xảy ra với cá san hô sau bộ phim “Đi tìm Nemo”.

Sự tiến hóa diệu kỳ của chiếc lưỡi ở chim và bò sát

Sự tiến hóa của lưỡi đã giúp các loài bò sát và lưỡng cư bắt được con mồi là động vật. Còn ở loài chim, một số cách thích nghi kỳ lạ nhất của lưỡi phản ánh sở thích ăn thực vật.

Từ đâu sinh ra chiếc lưỡi trong miệng

Lưỡi là cơ quan quan trọng của con người nhưng ít có công trình nào nghiên cứu về bộ phận này. Chúng tôi sẽ giới thiệu công trình nghiên cứu về chiếc lưỡi trong lịch sử tiến hóa sinh học.

5 công cụ AI trực tuyến tốt nhất để tạo meme

Meme là hình ảnh hay video kèm theo tiêu đề hài hước mang tính giải trí, được lan truyền rộng rãi trên các trang mạng xã hội. Hoạt động tạo meme trực tuyến đang gia tăng thời gian qua.

Lời khuyên khác cho người quản lí dự án

Blog GS John VU - GS John Vu - 20/08/2025 13:00
Người quản lí dự án giỏi phải có cả kĩ năng kĩ thuật và kĩ năng trao đổi.

Xem "Sex Education", tôi gửi con gái tin nhắn và nhận được kỳ tích sau 2 tháng

Điện ảnh - Mỹ Hạnh - 20/08/2025 12:00
Bây giờ mỗi khi nhắc lại chuyện cũ, con gái vẫn thường cảm ơn tôi vì tin nhắn tối hôm đó.

Vì sao không nên dùng Face ID để mở khóa điện thoại?

Kỹ năng - KV - 20/08/2025 11:00
Mở khóa bằng khuôn mặt đã trở thành một phản xạ của nhiều người dùng iPhone. Nhưng sẽ ra sao nếu kẻ xấu không cần bẻ khóa, mà chỉ cần ép chính bạn dùng chìa khóa đó để chống lại mình?

'Câu hỏi về thế giới bên kia' từ góc độ khoa học: Sự va chạm giữa thực nghiệm và ảo tưởng

Suy ngẫm - Đức Khương - 20/08/2025 10:00
Câu hỏi "liệu có thế giới bên kia sau khi chết không" như một bí ẩn lớn mà con người luôn tìm cách giải đáp. Tuy nhiên, do vượt ra ngoài phạm vi quan sát trực tiếp và kiểm chứng thực nghiệm, khoa học truyền thống vẫn chưa thể đưa ra câu trả lời thuyết phục.

Sức mạnh của người thấu cảm - Sự khác biệt giữa người nhạy cảm và người thấu cảm

Từ sách - Phim - Quìn - 20/08/2025 09:00
Bạn từng thấy mệt mỏi vì “cảm” quá nhiều? Hay thấy mình dễ bị cuốn vào cảm xúc của người khác đến mức quên mất bản thân? Có thể bạn là một người nhạy cảm, hoặc thậm chí là một người thấu cảm.

Mẹ quét rác ở Đầm Sen, con trai bán vé số vươn lên thành chủ tịch công ty đa lĩnh vực

Truyền cảm hứng - Trần Hà - 20/08/2025 08:00
Câu chuyện được chia sẻ trong chương trình Gõ cửa thăm nhà mới đây thu hút sự chú ý của dư luận.

Sự thật tàn khốc: Cha mẹ càng lo lắng điều gì, con càng bị huỷ hoại bởi điều đó!

Suy ngẫm - Ứng Hà Chi - 19/08/2025 13:00
Thực tế, cha mẹ càng lo lắng điều gì cho con cái trong quá trình trưởng thành thì con càng mất mát, tổn thất nhiều hơn.

Nobita ơi, đừng làm 3 hành động này vì chúng khiến cậu và hàng triệu bạn trẻ "xếp đáy"

Điện ảnh - Đông - 19/08/2025 12:00
Nobita, cậu bạn đáng yêu nhưng mãi thụt lùi vì ba thói quen này!

Tuyệt đối không được đăng lên Facebook những thông tin này

Kỹ năng - Huỳnh Duy - 19/08/2025 11:00
Hình ảnh này có thể bị lợi dụng để đánh cắp thông tin, thực hiện các chiêu trò lừa đảo.

Nở rộ nghề 'bác sĩ' chuyên sửa Labubu

Phong cách sống - Hoàng Hà - 19/08/2025 10:00
Cơn sốt búp bê nhồi bông Labubu góp phần tạo nên làn sóng nghề nghiệp mới tại Trung Quốc là làm "bác sĩ đồ chơi".

Chăm sóc bản thân thật sự - Đã đến lúc định nghĩa lại “yêu bản thân”

Từ sách - Phim - Quìn - 19/08/2025 09:00
Nếu “chăm sóc bản thân” là đặt lịch spa, hay book một chuyến nghỉ dưỡng sang chảnh, nhưng nếu sáng hôm sau bạn vẫn thức dậy với cảm giác kiệt sức, lo âu, và chẳng biết mình đang sống vì điều gì… thì rõ ràng, vấn đề nằm sâu hơn thế.

Không cần ngân sách quảng cáo khổng lồ, Inbound Marketing là chìa khóa thu hút khách hàng thời đại số

Từ sách - Phim - Đan Thanh - 19/08/2025 08:00
Trong thời đại chuyển đổi số, doanh nghiệp ngày nay hầu hết đã chuyển đổi sang hình thức inbound marketing để tối ưu hóa không gian mạng và xây dựng nội dung phù hợp với từng nhóm khách hàng mục tiêu.

4 cách uống cà phê tốt nhất cho sức khỏe

Kỹ năng - Minh Nhật - 18/08/2025 11:00
Cà phê không chỉ giúp đầu óc tỉnh táo, tăng sự tập trung mà nếu uống đúng cách, loại đồ uống quen thuộc này còn mang lại nhiều lợi ích cho tim mạch, gan, cân nặng và đường huyết.
HẠT GIỐNG TÂM HỒN
2019 Bản quyền thuộc về hatgiongtamhon.com.vn. Phát triển bởi ONECMS
Thứ 5, 21/08/2025