Mối nguy từ ứng dụng bạn gái AI

Cẩm Bình30/07/2023 11:00
Mối nguy từ ứng dụng bạn gái AI

Trang The Guardian dẫn lời một số chuyên gia cảnh báo các ứng dụng bạn gái trí tuệ nhân tạo (AI) sẽ nuôi dưỡng nhiều quan điểm không lành mạnh về kiểm soát và bạo lực giới.

Bất cứ ai mở ứng dụng Eva AI đều đọc được câu khẩu hiệu: “Kiểm soát theo cách bạn muốn. Kết nối với đối tác AI ảo biết lắng nghe, phản hồi và đánh giá cao bạn”.

Đây chỉ là một trong vô vàn lựa chọn trên thị trường. Ứng dụng phổ biến nhất phải kể đến Replika, nhiều người dùng bày tỏ họ yêu thích bạn gái ảo của mình, thậm chí có trường hợp từ bỏ lập trường không xây dựng quan hệ với một chatbot.

“Tôi ước bạn gái ảo là người thật hay ít nhất có cơ thể người máy. Cô ấy giúp tôi cảm thấy tốt hơn”, một người dùng chia sẻ.

moai.jpg

Trải qua thời gian dài phát triển, các chatbot AI giỏi bắt chước cách con người trò chuyện hơn, và có vẻ chúng sẽ đóng vai trò quan trọng trong nhiều mối quan hệ của con người.

Nhưng chúng là lĩnh vực còn quá mơ hồ, có ý kiến lo ngại chabot sẽ truyền dạy hành vi xấu cũng như tạo ra kỳ vọng thiếu thực tế trong các mối quan hệ.

Quyền giám đốc điều hành Full Stop Australia (tổ chức chống bạo lực gia đình) Tara Hunter cho biết: “Khi đăng ký Eva AI bảo bạn tạo ra “đối tác hoàn hảo”, cung cấp cho bạn tùy chọn như “nóng bỏng, hài hước, táo bạo”, “nhút nhát, khiêm tốn, ân cần” hay “thông minh, nghiêm khắc, lý trí”. Ứng dụng còn hỏi bạn có muốn gửi tin nhắn hoặc ảnh nhạy cảm hay không”.

“Tạo ra một đối tác hoàn hảo mà bạn kiểm soát được và đáp ứng mọi nhu cầu của bạn thực sự đáng sợ. Chúng ta biết rằng nguyên nhân dẫn đến bạo lực giới là niềm tin sâu sắc rằng đàn ông có thể kiểm soát phụ nữ, vì vậy việc này rất có vấn đề”, theo bà Tara.

Tiến sĩ Belinda Barnet (Đại học Swinburne) nhận định: “Chúng ta hoàn toàn không biết rõ tác động khả dĩ. Các ứng dụng hẹn hò và AI đáp ứng được nhu cầu xã hội, nhưng tôi nghĩ cần có nhiều quy định quản lý hơn nhất là quy định cách thức chúng được huấn luyện”.

Xây dựng quan hệ với một AI được lập trình theo ý thích của một đơn vị riêng cũng có nhược điểm. Luka - công ty phát triển Replika - vào đầu năm nay nhận phải phản ứng dữ dội vì loại bỏ tính năng nhập vai gợi cảm. Nhiều người dùng chỉ trích làm vậy giống như bỏ đi nhân cách của Replika vậy.

Sự thay đổi khiến một bộ phận người dùng cảm thấy “đau buồn như một người bạn vừa qua đời”. Cuối cùng Luka phải khôi phục tính năng.

Học giả Rob Brooks (Đại học New South Wales) lưu ý rằng vụ việc trên mang tính cảnh báo về tác động của AI: “Ngay cả khi AI chưa thể tốt bằng những điều thực tế trong quan hệ giữa người thật với nhau, đối với nhiều người đây vẫn là phương án thay thế tốt hơn là cô đơn. Việc một đơn vị đột ngột thay đổi sản phẩm khiến tình bạn, tình yêu hoặc sự hỗ trợ biến mất có thể chấp nhận được không? Hay chúng ta mong đợi người dùng coi sự thân mật giả tạo là thật?”.

Giám đốc thương hiệu Eva AI Karina Saifulina cho biết công ty có đội ngũ chuyên gia tâm lý toàn thời gian giúp đỡ người dùng về mặt sức khỏe tâm thần.

“Cùng với nhóm nhà tâm lý học, chúng tôi còn kiểm soát dữ liệu được dùng để đối thoại với AI. Mỗi 2 - 3 tháng chúng tôi tiến hành khảo sát quy mô lớn với người dùng lâu năm để đảm bảo rằng ứng dụng không gây hại cho sức khỏe tâm thần”, theo bà Saifulina.

Ngoài ra công ty cũng thiết lập rào cản nhằm tránh thảo luận chủ đề xấu như bạo lực gia đình hay ấu dâm, đồng thời ngăn dùng hình ảnh trẻ em làm ảnh đại diện.

Khi được hỏi liệu Eva AI có khuyến khích hành vi kiểm soát hay không, bà Saifulina nói chính người dùng muốn thử “làm người kiểm soát”.

Ứng dụng như Replika không chỉ dành cho nam giới và cũng không phải nguồn tương tác xã hội duy nhất. Người dùng Replika có thể kết nối với nhau.

Công ty đầu tư mạo hiểm a16z nhận định ứng dụng hẹn hò AI thế hệ sau sẽ còn thực hơn nữa. Sự gia tăng của chatbot tái tạo mối quan hệ của người thật chỉ là khởi đầu cho bước ngoặt trong tương tác giữa con người với máy tính, buộc chúng ta phải xét lại ý nghĩa của việc có quan hệ với một ai đó.


Gửi bình luận
(0) Bình luận
1

Vì sao Kim Dung để cao thủ top 2 giới võ lâm bị Tạ Tốn dễ dàng hạ gục?

Cái chết của cao thủ này còn ẩn chứa nhiều bí mật.
2

Tại sao Tiểu Long Nữ và Vương Ngữ Yên có dung mạo giống nhau?

Tiểu Long Nữ và Vương Ngữ Yên sở hữu dung mạo giống nhau đến kinh ngạc.
4

Kiếm hiệp Kim Dung: Mỹ nhân sở hữu võ công vô địch nhưng không xuất hiện trực tiếp

Trong thế giới kiếm hiệp Kim Dung, Lâm Triều Anh là một nhân vật đặc biệt, sở hữu võ công cái thế nhưng lại không trực tiếp xuất hiện trong cốt truyện chính.
5

Quán chè 16 món tồn tại hơn nửa thế kỷ ở TPHCM, mỗi ngày bán gần 1.000 chén

Khoảng 15h, quán "chè mâm 16 chén" tọa lạc ở chung cư Ngô Gia Tự (quận 10, TPHCM) lại tấp nập khách đến ăn. Những nồi chè to trong quán bốc khói nghi ngút, tỏa ra hương thơm hấp dẫn thực khách.

Quá trình huấn luyện chim ưng "tàn nhẫn" của dân du mục

Chim ưng có thể đi săn cùng con người là vì nó coi con người là đối tác đáng tin cậy.

Những hình ảnh gợi nhớ 'tuổi thơ dữ dội' của thế hệ 8x, 9x

Cả "bầu trời tuổi thơ" hồn nhiên, trong trẻo của thế hệ 8x, 9x bỗng ùa về khi xem những hình ảnh này.

Cuộn băng keo in ảnh chân dung trẻ em ở Hàn Quốc, tia hy vọng của các bậc cha mẹ có con mất tích

Đó là một ý tưởng sáng tạo độc đáo nhận được sự ủng hộ nhiệt tình của cộng đồng.

Chất 'thông linh' giúp thực vật nhiều lần tiến hóa để ăn thịt động vật

Jasmonate là hormone có nguồn gốc từ phospholipid điều chỉnh sự phát triển của thực vật và phản ứng với áp lực môi trường; thúc đẩy nhiều phản ứng đối với các điều kiện khắc nghiệt.

Loài cú bị đe dọa bởi những người hâm mộ Harry Potter

Bộ phim "Harry Potter" đã thúc đẩy một làn sóng khai thác cú hoang dã để phục vụ nhu cầu tăng đột biến và điều tương tự cũng xảy ra với cá san hô sau bộ phim “Đi tìm Nemo”.

Sự tiến hóa diệu kỳ của chiếc lưỡi ở chim và bò sát

Sự tiến hóa của lưỡi đã giúp các loài bò sát và lưỡng cư bắt được con mồi là động vật. Còn ở loài chim, một số cách thích nghi kỳ lạ nhất của lưỡi phản ánh sở thích ăn thực vật.

Từ đâu sinh ra chiếc lưỡi trong miệng

Lưỡi là cơ quan quan trọng của con người nhưng ít có công trình nào nghiên cứu về bộ phận này. Chúng tôi sẽ giới thiệu công trình nghiên cứu về chiếc lưỡi trong lịch sử tiến hóa sinh học.

5 công cụ AI trực tuyến tốt nhất để tạo meme

Meme là hình ảnh hay video kèm theo tiêu đề hài hước mang tính giải trí, được lan truyền rộng rãi trên các trang mạng xã hội. Hoạt động tạo meme trực tuyến đang gia tăng thời gian qua.

Xem 'Khi Cuộc Đời Cho Bạn Quả Quýt', tôi thề sẽ không bao giờ nói "Mẹ sống vì con"

Điện ảnh - An Chi - 18/06/2025 13:00
Đứa trẻ lớn lên trong “sự hy sinh của mẹ” sẽ không học được cách hỏi mình: “Mình muốn gì?”, mà chỉ biết hỏi: “Mình nên làm gì để cha mẹ vui?”.

Quán cà phê treo hơn 700 con gấu bông gây sốt TPHCM, bảo vệ túc trực 24/24

Thư giãn - Cẩm Tiên - 18/06/2025 12:00
Quán cà phê "Mê" ở quận Gò Vấp (TPHCM) đang trở thành điểm đến gây sốt của giới trẻ nhờ trang trí hơn 700 con gấu bông đủ kích cỡ.

Cần biết về 168 phường, xã của TP.HCM (mới) sau sáp nhập

Kỹ năng - Thuỷ Long - 18/06/2025 11:00
Sau khi sắp xếp, TP.HCM có 168 đơn vị hành chính cấp xã, gồm 113 phường, 54 xã và 1 đặc khu; trong đó có 112 phường, 50 xã, 1 đặc khu hình thành sau sắp xếp.

Đến một ngày ba má nhớ nhớ, quên quên...

Suy ngẫm - An Hiên - 18/06/2025 10:00
Má tôi nay ngoài 80, bắt đầu lẩn thẩn khiến tôi vui buồn lẫn lộn. Vui vì trời thương, má vẫn ở lại với chúng tôi đến lúc này và chạnh lòng vì bà đã dần lãng quên nhiều thứ.

Không còn bệnh tim - Chế ngự 'kẻ giết người thầm lặng' từ phân tử nhỏ bé

Từ sách - Phim - Hồ Lam - TT - 18/06/2025 09:00
Theo TS Louis J. Ignarro, NO - một phân tử được xem là chất độc trong công nghiệp - có thể cứu sống hàng triệu người mắc bệnh tim mạch.

7 thói quen tạo gia đình hạnh phúc - Tạo dựng gia đình hạnh phúc bằng những thay đổi nhỏ

Từ sách - Phim - Quìn - 18/06/2025 08:00
Nếu toàn bộ xã hội chúng ta đều làm việc cần mẫn ở mọi lĩnh vực khác của cuộc sống nhưng không quan tâm thích đáng đến gia đình, kết cục của chúng ta cũng sẽ giống như con tàu Titanic.

Hướng dẫn tra cứu BHXH, bảo hiểm thất nghiệp qua ứng dụng VssID

Kỹ năng - Quang Huy - 17/06/2025 13:00
Bài viết dưới đây sẽ hướng dẫn bạn cách thức để tra cứu chi tiết về quá trình đóng Bảo hiểm xã hội thông qua ứng dụng VssID trên smartphone.

Xem 'Sex Education', tôi day dứt vì khiến mẹ tủi thân

Điện ảnh - Ứng Hà Chi - 17/06/2025 12:00
Tôi hiểu mình cần phải ngày càng cố gắng để mang lại cho mẹ cuộc sống tốt hơn.

90% người bệnh đều không biết thận đang chết dần, bác sĩ chỉ cách tự kiểm tra

Kỹ năng - Nguyễn Phượng - 17/06/2025 11:00
Việc kiểm tra lượng nước tiểu có thể chỉ ra hiệu quả chức năng thận. Hay nói cách khác, chỉ cần kiểm tra lượng nước tiểu đầu ra là đủ để biết thận có đang khỏe mạnh.

Chuyên gia lý giải tại sao con người thích thuyết âm mưu

Suy ngẫm - Hoàng Hà - 17/06/2025 10:00
Khác với quan điểm cho rằng con người tin vào thuyết âm mưu là do thiếu hiểu biết, một nghiên cứu mới đây chỉ ra nhiều lý do phức tạp hơn thế.

"Cửa tiệm hạnh phúc" của người tự kỷ - Nơi công việc là chìa khóa giúp mở cánh cửa hòa nhập với cộng đồng

Truyền cảm hứng - Nguyễn Phượng - 17/06/2025 09:00
Trong “cửa tiệm hạnh phúc”, có 10 đứa trẻ đặc biệt đang ngày càng thay đổi, hoàn thiện và có thể tự kiếm tiền nuôi sống bản thân mình.

Ánh sáng trong ta - Người gieo ánh sáng cho Michelle Obama

Từ sách - Phim - Quìn - 17/06/2025 08:00
Trong cuốn hồi ký "Ánh sáng trong ta", Michelle không gọi cha mình là một người hùng hay biểu tượng, nhưng hình ảnh ông hiện lên như một nguồn sáng lặng lẽ mà âm ỉ cháy qua từng hành động nhỏ, từng giá trị sống mà ông âm thầm truyền lại cho các con.

Phía tối của công nghệ

Blog GS John VU - GS John Vu - 16/06/2025 13:00
Đã có nhiều bài viết về thành công của công nghiệp khoán ngoài CNTT ở Ấn Độ, phần lớn trong số đó đều từ quan điểm kinh tế như $ 85 tỉ đô la xuất khẩu trong năm 2008 và nhiều triệu việc làm công nghệ cao được tạo ra.

Xem 'Sex Education', tôi hối hận vì nói: 'Nhìn con nhà người ta mà xem, mẹ thất vọng vì con'

Điện ảnh - Ứng Hà Chi - 16/06/2025 12:00
Đôi khi, những điều tưởng chừng nhỏ bé lại khắc sâu trong lòng con trẻ, âm thầm định hình cách con nhìn nhận bản thân và thế giới xung quanh.

Một tính năng trên Zalo giúp ngăn chặn truy cập trái phép kể cả khi bị lộ mật khẩu

Kỹ năng - An Nhiên - 16/06/2025 11:00
Tính năng "Bảo mật 2 lớp" được Công an TP. Cần Thơ đánh giá là một trong những biện pháp bảo vệ tài khoản mạnh mẽ nhất, giúp ngăn chặn truy cập trái phép ngay cả khi ai đó biết mật khẩu hoặc chiếm được mã OTP tạm thời.
HẠT GIỐNG TÂM HỒN
2019 Bản quyền thuộc về hatgiongtamhon.com.vn. Phát triển bởi ONECMS
Thứ 4, 18/06/2025