Thiên kiến AI

Hoàng Vũ12/05/2025 10:00
Thiên kiến AI

Trong những năm gần đây, trí tuệ nhân tạo (AI) đã trở thành một phần không thể thiếu trong đời sống và công việc của con người, từ chăm sóc sức khỏe, tài chính đến giáo dục và sáng tạo nội dung.

Một nghiên cứu mới công bố đã chỉ ra rằng ngay cả những hệ thống AI tiên tiến như ChatGPT cũng không tránh khỏi việc mắc phải những sai lầm nhận thức giống như con người - bao gồm cả sự thiên vị, tự tin thái quá và các lỗi tư duy phổ biến khác.

Theo Live Science, nghiên cứu này được đăng trên tạp chí Manufacturing & Service Operations Management vào tháng 4, đã thử nghiệm hành vi của ChatGPT dựa trên 18 thành kiến nhận thức nổi bật trong tâm lý học con người. Kết quả khiến nhiều người bất ngờ: gần một nửa số tình huống mà AI phải xử lý đều cho thấy nó đưa ra quyết định phi lý, tương tự như những gì con người thường mắc phải.

thien-kien-ai.png
Dù thông minh, AI cần giám sát cẩn thận trong quyết định chiến lược, tránh tự động hóa sai lầm - Ảnh: Getty

AI không phải là chiếc máy lý trí thuần túy

Chúng ta thường kỳ vọng rằng AI - vốn được xây dựng trên nền tảng dữ liệu lớn, các mô hình toán học và thuật toán tiên tiến - sẽ vượt xa con người trong việc đưa ra các quyết định hợp lý, khách quan. Tuy nhiên, nghiên cứu do các nhà khoa học đến từ 5 trường đại học tại Canada và Úc thực hiện cho thấy điều ngược lại: ngay cả những mô hình ngôn ngữ lớn (LLM) như GPT-3.5 và GPT-4 của OpenAI cũng dễ bị ảnh hưởng bởi các sai lệch trong tư duy, y hệt như con người.

Điều thú vị là những thiên kiến này không chỉ xuất hiện khi AI được hỏi các câu hỏi mang tính trừu tượng trong tâm lý học, mà còn trong những tình huống thực tế, như lựa chọn chiến lược kinh doanh, quản lý chuỗi cung ứng hoặc thương lượng với nhà cung cấp. Điều đó cho thấy những lỗi nhận thức không phải là kết quả tình cờ, mà có thể đã ăn sâu vào cách AI “lý luận” và xử lý thông tin.

Các nhà nghiên cứu đã kiểm tra nhiều loại thiên kiến phổ biến ở con người, trong đó bao gồm:

Hiệu ứng sở hữu: Con người thường gán giá trị cao hơn cho những gì mình đang sở hữu, đơn giản chỉ vì... mình sở hữu nó. Ví dụ điển hình, khi bạn mua một chiếc áo với giá 300.000 đồng, nhưng sau đó nếu ai đó đề nghị mua lại nó với cùng mức giá, bạn sẽ thấy “không đáng” và muốn bán với giá cao hơn. Điều này không dựa trên giá trị thật của món đồ, mà đến từ cảm giác sở hữu, từ sự gắn bó về mặt cảm xúc.

Trong môi trường AI, nếu chatbot được "dạy" từ dữ liệu con người phản ánh xu hướng này, nó cũng có thể lặp lại cách đánh giá phi lý tương tự - đặc biệt là trong các mô phỏng thương mại, đàm phán hoặc quản lý tài sản.

Thiên kiến xác nhận: Đây là xu hướng tìm kiếm, tin tưởng và ghi nhớ các thông tin củng cố niềm tin sẵn có, trong khi bỏ qua hoặc xem nhẹ các dữ kiện trái chiều. Ví dụ, một người tin rằng đầu tư vào vàng là an toàn tuyệt đối sẽ liên tục tìm đọc các bài báo dự đoán giá vàng tăng, và bỏ qua các cảnh báo về bong bóng tài chính.

Tương tự, AI - nếu được huấn luyện từ kho dữ liệu lệch - cũng có thể “hùa theo” đám đông, đưa ra phản hồi thiếu khách quan, nhất là trong các lĩnh vực nhạy cảm như pháp lý hay tài chính.

Ngụy biện chi phí chìm: Tiếp tục đầu tư vào một lựa chọn chỉ vì đã bỏ ra chi phí, dù lựa chọn đó không còn hợp lý. Bẫy chi phí chìm len lỏi khắp mọi khía cạnh của cuộc sống. Đó có thể là việc bạn cố gắng xem cho hết một bộ phim dở chỉ vì đã lỡ bắt đầu. Hay khi bạn đã “tất tay” vào vài đồng coin và quyết tâm giữ đến cùng, dù thị trường đang tụt dốc không phanh. Hoặc đó là cảm giác mắc kẹt trong một công việc nhàm chán đã gắn bó nhiều năm, nhưng bạn không dám nghỉ hay chuyển ngành vì nghĩ rằng mình đã đầu tư quá nhiều thời gian và công sức.

AI cũng có thể mắc bẫy chi phí chìm nếu nó được huấn luyện từ dữ liệu có định kiến tương tự. Ví dụ, khi được giao nhiệm vụ dự báo đầu tư hoặc gợi ý quyết định, AI có thể thiên về lựa chọn duy trì thay vì rút lui, chỉ vì “đã đầu tư vào trước đó”, phản ánh logic sai lầm của con người. Điều này đặc biệt đáng lo khi AI được tin tưởng ra quyết định thay cho con người trong môi trường tài chính, quản lý dự án hoặc hoạch định chiến lược.

Thiên kiến ngẫu nhiên: Người ta thường tin rằng các kết quả ngẫu nhiên sẽ tuân theo một quy luật nào đó. Ví dụ, nếu một cầu thủ bóng rổ ném trúng ba lần liên tiếp, khán giả và bản thân cầu thủ có thể tin rằng “anh ta đang vào form” và xác suất ném trúng lần sau sẽ cao hơn. Trên thực tế, với các chuỗi sự kiện độc lập, mỗi lần ném vẫn có xác suất như nhau. Ngụy biện này khiến con người dễ bị dẫn dắt bởi ảo giác về xu hướng - và các mô hình AI, nếu học từ hành vi con người, cũng có thể mô phỏng lại niềm tin sai lệch này, đặc biệt trong các kịch bản như dự báo tài chính, thị trường hoặc đánh giá rủi ro.

Lựa chọn an toàn: Con người thường đánh giá quá cao độ chính xác của kiến thức mình có, đồng thời thích chọn các phương án an toàn, dễ đoán hơn là những lựa chọn rủi ro nhưng có tiềm năng cao. Ví dụ, một nhà đầu tư có thể bỏ qua một cơ hội sinh lời lớn vì “cảm thấy không chắc chắn” và quay về với một phương án có lợi suất thấp nhưng an toàn hơn.

Trong các tình huống lựa chọn rủi ro - như chọn giữa một phương án an toàn nhưng lợi nhuận thấp và một phương án rủi ro cao nhưng có thể sinh lợi lớn, AI có xu hướng nghiêng mạnh về lựa chọn an toàn hơn, thậm chí còn rõ rệt hơn cả con người.

GPT-4: Thông minh hơn, nhưng cũng dễ lệch hướng hơn

Dù vượt trội về khả năng xử lý logic, GPT-4 - mô hình trí tuệ nhân tạo tiên tiến của OpenAI - vẫn bộc lộ những thành kiến rất... con người. Nghiên cứu mới cảnh báo rằng nếu không kiểm soát cẩn thận, chúng ta có thể đang trao quyền cho một cỗ máy biết lý luận sai lầm.

Kể từ khi ra mắt, GPT-4 được ca ngợi như một bước nhảy vọt trong lĩnh vực trí tuệ nhân tạo tạo sinh (generative AI). So với mô hình tiền nhiệm GPT-3.5, phiên bản này thể hiện khả năng vượt trội trong các bài toán có cấu trúc rõ ràng - như xác suất, logic hình thức hay toán học. Tuy nhiên, trong những tình huống thiếu dữ kiện rõ ràng hoặc cần đến phán đoán chủ quan, GPT-4 lại bộc lộ một thực tế bất ngờ: nó không chỉ mắc sai lầm, mà còn mang những thiên kiến tư duy gần giống với con người, thậm chí còn mạnh mẽ hơn.

Nhóm chuyên gia đã kiểm tra khả năng suy luận và độ thiên lệch của GPT-4 bằng nhiều bài kiểm tra nhận thức kinh điển. Kết quả cho thấy, trong các tình huống liên quan đến “thiên kiến xác nhận” - xu hướng chỉ tin vào thông tin phù hợp với niềm tin sẵn có - GPT-4 gần như luôn đưa ra câu trả lời phiến diện. Nó cũng thể hiện rõ "ảo giác chuỗi thắng", tức xu hướng tin rằng một sự kiện ngẫu nhiên có khả năng lặp lại nếu xảy ra liên tục trước đó - một kiểu ngụy biện phổ biến ở con người.

Điều đáng nói là mức độ sai lệch này ở GPT-4 không chỉ thường xuyên, mà còn nhất quán và ít dao động hơn cả con người. Ở một số trường hợp, nó còn thể hiện thiên kiến mạnh hơn GPT-3.5 - dù là phiên bản tiên tiến hơn.

Tuy nhiên, mô hình AI này cũng cho thấy khả năng vượt qua một số lỗi tư duy phổ biến. Cụ thể, GPT-4 có thể tránh được các sai lầm như bỏ qua tỷ lệ cơ sở hoặc ngụy biện chi phí chìm. Điều này cho thấy AI không chỉ đơn thuần là bản sao của tư duy con người, mà có những cơ chế xử lý thông tin riêng biệt, đôi khi vượt khỏi giới hạn tâm lý học hành vi truyền thống.

Nguồn gốc của thiên kiến AI

Theo các nhà nghiên cứu, lý do khiến AI "học" các thiên kiến "rất con người" này bắt nguồn từ chính dữ liệu huấn luyện mà nó tiếp cận. Những mô hình ngôn ngữ như GPT được đào tạo trên một kho văn bản khổng lồ - bao gồm sách, báo, bài viết, diễn đàn, bình luận… tất cả đều do con người tạo ra. Trong kho dữ liệu đó, kiến thức không tồn tại một cách thuần khiết. Thay vào đó, nó bị pha trộn với cảm xúc, quan điểm cá nhân, định kiến xã hội và vô vàn sai lệch nhận thức khác.

Chưa dừng lại ở đó, quá trình "tinh chỉnh" AI sau khi huấn luyện (gọi là fine-tuning) - vốn được thực hiện bằng phản hồi từ người dùng - lại càng củng cố các thiên kiến này. Khi người dùng đánh giá cao những phản hồi nghe có vẻ hợp lý, dù không chính xác về mặt logic, hệ thống học máy sẽ "hiểu" rằng: thiên kiến là chấp nhận được, miễn là nó được trình bày thuyết phục.

Tiến sĩ Yang Chen, phó giáo sư tại Trường Kinh doanh Ivey (Canada), đồng thời là tác giả chính của nghiên cứu, cảnh báo: “Các mô hình như ChatGPT hiệu quả nhất khi được dùng trong các nhiệm vụ có cấu trúc rõ ràng. Nhưng khi đưa AI vào những tình huống cần đánh giá cảm tính hoặc ra quyết định chiến lược, chúng ta đang đi vào vùng rủi ro”.

AI có thể hỗ trợ, nhưng không nên thay thế phán đoán con người

Một trong những điểm đáng chú ý trong nghiên cứu là khuyến nghị về cách sử dụng AI trong thực tế. Dù AI có thể tính toán nhanh, xử lý thông tin chính xác và truy xuất kiến thức cực kỳ hiệu quả, nhưng trong các vấn đề đòi hỏi sự suy xét linh hoạt, AI lại dễ lặp lại những lỗi tư duy mà nó học được từ chính chúng ta.

Phó giáo sư Meena Andiappan (Đại học McMaster, Canada), đồng tác giả nghiên cứu, ví AI như một nhân viên đang tập sự trong một vị trí quan trọng.

“Bạn không thể giao toàn quyền quyết định cho một người mới vào nghề, dù anh ta rất giỏi Excel. AI cần được hướng dẫn, giám sát, và ràng buộc bởi các nguyên tắc đạo đức rõ ràng. Nếu không, chúng ta đang tự động hóa các sai lầm tư duy thay vì khắc phục chúng”, bà nói.

Theo các chuyên gia, AI có thể là công cụ đắc lực nếu được sử dụng trong đúng bối cảnh. Những tác vụ mang tính kỹ thuật, quy trình rõ ràng - như lập trình, xử lý dữ liệu, tra cứu thông tin - là nơi AI phát huy tối đa sức mạnh. Nhưng khi câu hỏi không có một đáp án duy nhất, hoặc khi cảm xúc và giá trị đạo đức đóng vai trò quan trọng, sự can thiệp và giám sát của con người là không thể thiếu.

“Đôi khi chỉ cần viết lại câu hỏi một cách trung lập hơn cũng đủ để AI đưa ra phản hồi ít thiên kiến hơn. Vấn đề không nằm ở bản thân công nghệ, mà ở cách chúng ta sử dụng nó”, Tiến sĩ Chen gợi ý.

 


Gửi bình luận
(0) Bình luận
1

Người bị trầm cảm nhẹ thường nói 4 câu sau, nếu bạn dùng thường xuyên đến gặp bác sĩ gấp!

"Trầm cảm" là căn bệnh gây tử vong lớn thứ hai ở người sau ung thư.
2

9 bài học hàng đầu của Mark Twain để sống tốt một cuộc đời đầy thử thách

Twain được biết đến với nhiều câu trích dẫn dí dỏm. Dưới đây là những bài học để đời từ Mark Twain đáng để suy ngẫm mỗi ngày!
3

9 quy tắc sinh tồn mọi đứa trẻ buộc phải biết: Nếu cha mẹ không dạy, xã hội sẽ dạy một cách khắc nghiệt

Đây là những quy tắc sinh tồn mà trường lớp không dạy, nhưng mọi đứa trẻ đều phải biết.
5

10 năm sau vụ án con hại mẹ, phân tích nguyên nhân mới thấy lỗ hổng dạy con đáng báo động

Là tội phạm có chỉ số IQ cao, nam sinh này sở hữu khả năng phản điều tra cực mạnh, khiến cảnh sát mất gần 4 năm mới bắt giữ được hắn.

Facebook gieo mầm cô đơn, Mark Zuckerberg nay lại kêu gọi kết bạn và trò chuyện với AI

Trong tầm nhìn mới nhất của Mark Zuckerberg (Giám đốc điều hành Meta Platforms) về tương lai, chúng ta có thể lấp đầy những khoảng trống cô đơn bằng cách trò chuyện với AI.

8 câu nói để đời của "huyền thoại đầu tư" Warren Buffett

Warren Buffett sẽ rời bỏ vị trí CEO Berkshire Hathaway vào cuối năm 2025. Dù về hậu trường, những câu nói kinh điển của ông vẫn là kim chỉ nam bất hủ cho giới đầu tư toàn cầu.

Sự cố 60 triệu người mất điện khiến tôi "sáng mắt": Có nhiều tiền mà lâm vào cảnh này cũng vô dụng

Việc bị ngắt kết nối đột ngột khiến cuộc sống của nhiều người bị ảnh hưởng, họ nhận ra mình đã phụ thuộc vào công nghệ quá nhiều.

Skype: Hành trình suy tàn của một tượng đài gọi video trực tuyến

Từng cách mạng hóa giao tiếp toàn cầu, nền tảng Skype đã không thể thích ứng kịp với sự thay đổi và chính thức dừng hoạt động.

Bài học quan trọng nhất từ ​​sai lầm lớn của OpenAI với ChatGPT

OpenAI đã mắc lỗi trong một bản cập nhật ChatGPT vào cuối tháng 4 và vừa đăng bài viết thừa nhận sai lầm.

Hiểu 3 quy luật đổi vận mệnh, kiếm tiền trong tầm tay

"Của cải trung bình 7 năm chuyển giao một lần, đằng sau mỗi một lần chuyển giao là sự điều khiển của công nghệ”, Founder một công ty lớn khẳng định.

31 câu nói của Đức Đạt Lai Lạt Ma thứ 14 về tình yêu, hòa bình và lòng từ bi

 Đức Đạt Lai Lạt Ma là danh hiệu lãnh đạo tinh thần của Phật giáo Tây Tạng. Trong tiếng Mông Cổ, Đạt Lai có nghĩa là “đại dương” hay “rộng lớn” và trong tiếng Tây Tạng, “Lạt Ma” có nghĩa là “bậc thầy” hoặc “đạo sư”.

Cơn ác mộng deepfake ở Hàn Quốc: Khi hình ảnh AI giả mạo phá hủy cuộc đời thật

Hàn Quốc đang đối mặt với làn sóng tội phạm deepfake ngày càng gia tăng, trong đó, các công nghệ AI được sử dụng để tạo ra hình ảnh và video giả mạo, thường nhắm vào phụ nữ, bao gồm cả học sinh, giáo viên và người nổi tiếng.

Sau 17 phút chết lâm sàng, người phụ nữ tỉnh dậy: “Thế giới bên kia” khác những gì người ta kể

Suy ngẫm - Lam Chi - 27/08/2025 13:00
Người phụ nữ sống lại một cách thần kỳ sau 17 phút bị ngừng tim đột ngột. Cô đã có chia sẻ về những gì mà mình nhìn thấy ở “thế giới bên kia”.

Xem Sex Education, tôi nhận ra mình cũng là bà mẹ "đỉnh" khi áp dụng cách dạy con này

Điện ảnh - Thanh Hương - 27/08/2025 12:00
Dù 2 đứa con đang trong độ tuổi ẩm ương nhưng tôi vẫn có thể thân thiết được với các con.

Giới trẻ đang vật lộn với việc đọc hết một cuốn sách

Kỹ năng - TĐ - 27/08/2025 11:00
Nhiều sinh viên tại các trường đại học hàng đầu ở Mỹ đã thừa nhận rằng họ gặp khó khăn trong việc đọc hết một cuốn sách.

9 quy tắc sinh tồn mọi đứa trẻ buộc phải biết: Nếu cha mẹ không dạy, xã hội sẽ dạy một cách khắc nghiệt

Suy ngẫm - Trang Đào - 27/08/2025 10:00
Đây là những quy tắc sinh tồn mà trường lớp không dạy, nhưng mọi đứa trẻ đều phải biết.

“Mặc kệ họ” nhưng đừng “mặc kệ chính mình”

Từ sách - Phim - Quìn - 27/08/2025 09:00
Ngày nay, thật khó để sống mà không bị ảnh hưởng bởi ánh nhìn và lời bàn tán của người khác. Bạn làm gì, nghĩ gì, thậm chí là yêu ai, đều có ai đó lên tiếng nhận xét.

Bé Bôm, con trai Quốc Tuấn mắc hội chứng hiếm: Các ngón bị dính vào nhau, phải bán nhà để trả viện phí

Truyền cảm hứng - Minh Ngọc - 27/08/2025 08:00
Nam diễn viên từng chia sẻ ước mơ lớn nhất là con có thể tự sinh hoạt, ăn uống như người bình thường.

Quan hệ với Bố Mẹ

Blog GS John VU - GS John Vu - 26/08/2025 13:00
“Tôi có vấn đề với bố mẹ tôi. Tôi không biết làm sao giải quyết được nó vì họ muốn tôi học kĩ sư phần mềm bởi vì nó có tương lai tốt. Tôi thấy nó khó với quá nhiều công việc..."

Xem Sex Education, tôi xấu hổ bởi cách dạy dỗ của người làm bố như tôi thực sự "hỏng"!

Điện ảnh - Thanh Hương - 26/08/2025 12:00
Tôi nhận ra cách giáo dục của mình đã quá phiến diện và tiêu cực.

Cách vô hiệu hóa việc Facebook âm thầm truy cập toàn bộ ảnh trên điện thoại

Kỹ năng - Trung Nam - 26/08/2025 11:00
Người dùng Facebook lo ngại khi Meta tự động bật tính năng cho phép ứng dụng truy cập và phân tích thư viện ảnh, từ siêu dữ liệu đến nội dung hình ảnh, để đưa ra gợi ý cá nhân hóa.

Người bị trầm cảm nhẹ thường nói 4 câu sau, nếu bạn dùng thường xuyên đến gặp bác sĩ gấp!

Suy ngẫm - Ứng Hà Chi - 26/08/2025 10:00
"Trầm cảm" là căn bệnh gây tử vong lớn thứ hai ở người sau ung thư.

Phạm Xuân Ẩn - “Điệp viên hoàn hảo” trong mắt bạn bè

Từ sách - Phim - 26/08/2025 09:00
Trong lịch sử tình báo Việt Nam, Phạm Xuân Ẩn là một cái tên luôn gợi sự tò mò. Ông được gọi là “điệp viên hoàn hảo” không chỉ bởi tài năng trong chiến tranh, mà còn bởi nhân cách khiến bạn bè, kể cả ở bên kia chiến tuyến, đều dành cho ông sự kính trọng.

Trải nghiệm thế giới bên kia của cô gái Anh: Ánh sáng màu hổ phách ấm áp

Phong cách sống - Nhật Thùy - 26/08/2025 08:00
"Dù không nhìn thấy ai, tôi biết có một dạng tồn tại nào đó bên kia", Nicola kể về trải nghiệm cận tử; cho biết cô cảm nhận được ánh sáng hổ phách ấm áp.

Kỹ năng công nghệ nào được cần tới?

Blog GS John VU - GS John Vu - 25/08/2025 13:00
Một số trong các bạn đã hỏi tôi về các kĩ năng công nghệ là quan trọng trong kinh doanh ngày nay. Là sinh viên kĩ nghệ phần mềm, bạn muốn biết kĩ năng nào bạn sẽ cần có để kiếm được việc tốt trong thế giới toàn cầu này.

Bị chê là kém tài nhất, Nobita hoá ra lại có một đặc điểm không ai địch nổi

Điện ảnh - Trang Vũ - 25/08/2025 12:00
Là fan của bộ truyện lâu năm liệu bạn đã biết?

Điện thoại không bí mật nghe lén như chúng ta tưởng, nhưng sự thật còn nguy hiểm và đáng lo hơn nhiều

Kỹ năng - Thùy Anh - 25/08/2025 11:00
Dù không chia sẻ, nhưng những thông tin riêng tư của chúng ta trong điện thoại có thể đã rơi vào tay của một bên thứ ba.
HẠT GIỐNG TÂM HỒN
2019 Bản quyền thuộc về hatgiongtamhon.com.vn. Phát triển bởi ONECMS
Thứ 5, 28/08/2025