Nạn nhân của DeepSeek: Phải cảnh giác, bởi ai cũng có thể dễ dàng “ăn quả lừa” tức tưởi!

Trang Đào01/03/2025 12:00
Nạn nhân của DeepSeek: Phải cảnh giác, bởi ai cũng có thể dễ dàng “ăn quả lừa” tức tưởi!

Hãy cẩn thận! Nhóm người đầu tiên sử dụng DeepSeek đã bị lừa một cách tồi tệ!

Bạn có bắt đầu quen với sự "toàn năng" của DeepSeek không? DeepSeek dường như có thể mang tới cho bạn mọi câu trả lời: viết một bản kế hoạch; tra cứu một vấn đề y khoa; tìm một lời khuyên hay ngay cả giải mã một giấc mơ... Nhưng không ai có thể ngờ rằng DeepSeek, vốn đang ngày càng được nhiều người tin tưởng, lại thực sự có thể nói những điều vô nghĩa một cách nghiêm túc.

Sau nạn thất nghiệp, nhóm nạn nhân thứ 2 của DeepSeek xuất hiện: Phải cảnh giác, bởi ai cũng có thể dễ dàng “ăn quả lừa” tức tưởi!- Ảnh 1.
 

AI không phải công cụ toàn năng, nó thậm chí còn gây hoang mang vì cung cấp thông tin sai lệch

"DeepSeek không đáng tin cậy cho việc tìm kiếm tài liệu", một giáo sư từ một trường đại học nổi tiếng ở Quảng Châu (Trung Quốc) gần đây đã lên tiếng phàn nàn. Ban đầu, giáo sư muốn sử dụng DeepSeek để tìm kiếm thông tin về "Tiếng Quảng Đông toàn cầu: Sự lan tỏa của ngôn ngữ và văn hóa Quảng Đông". Tuy nhiên, sau khi xác minh, ông phát hiện tác giả mà DeepSeek cung cấp là giả mạo, năm không đúng và nhà xuất bản hoàn toàn không liên quan. Sau khi trao đổi thêm, DeepSeek thừa nhận thông tin đó là sai, cảm ơn ông đã sửa lỗi và bày tỏ lời xin lỗi.

Gần đây, Zhan Guoshu, một nhân vật truyền thông nổi tiếng và là cựu tổng biên tập của ấn bản nước ngoài của tờ Nhân dân Nhật báo, cũng đã đăng một bài viết có tựa đề: Sai sót chết người của DeepSeek - thông tin bịa đặt.

Zhan Guoshu đã trích dẫn kinh nghiệm cá nhân của mình trong bài viết và yêu cầu DeepSeek viết "Sử ký của Đại sử gia: Tiểu sử của Chiêm Quốc Thư". Tuy nhiên, thông tin cơ bản như nơi sinh và họ mẹ được hiển thị trong câu đầu tiên đã bị ghi sai. Sau đó, ông yêu cầu DeepSeek viết một bài tường thuật của một phóng viên nào đó, với phong cách sống động và nhiều ví dụ. Tuy nhiên, khi nó được chuyển cho chính phóng viên, anh ta đã phủ nhận hoàn toàn mọi thứ.

Sau nạn thất nghiệp, nhóm nạn nhân thứ 2 của DeepSeek xuất hiện: Phải cảnh giác, bởi ai cũng có thể dễ dàng “ăn quả lừa” tức tưởi!- Ảnh 2.
 

Người ta nói rằng DeepSeek có kỹ năng viết tuyệt vời và trình độ văn chương cao, nhưng tác phẩm nổi tiếng "Thế giới bình thường" của Lục Dao lại bị nhầm lẫn là tác phẩm tiêu biểu của Chiêm Quốc Thư. Điều này cực kì nguy hại, bởi nếu không có kiến thức nền vững vàng, người dùng rất dễ bị "đánh lừa" bởi những thông tin sai lệch.

Trên thực tế, việc thể hiện thông tin không chính xác gần như đã trở thành một trong những vấn đề bị phàn nàn nhiều nhất của DeepSeek. Trong đó, việc nhầm lẫn "râu ông nọ cắm cằm bà kia" của các tác phẩm và tác giả là điều thường xuyên diễn ra. Bởi vậy, nhiều người đã cho rằng DeepSeek chỉ phù hợp để viết mã và tính toán, và hoàn toàn không thân thiện hoặc hữu ích với sinh viên chuyên ngành nghệ thuật tự do.

Một số người đã thử sử dụng DeepSeek để ôn thi cấp quốc gia và cấp tỉnh đã phải học lại sách giáo khoa bởi những thông tin cơ bản đều bị sai lệch lớn.

Một số cư dân mạng cố gắng giải phóng nhân lực thông qua DeepSeek cũng bị ăn "quả lừa thậm tệ". Ví dụ, một người đã sử dụng DeepSeek để viết một bài báo và trích dẫn bốn ví dụ, nhưng khi xác minh lại thông tin, anh ta không thể tìm thấy ba trong số đó. Cuối cùng, anh ta phát hiện ra rằng tất cả chúng đều do chính DeepSeek tạo ra. "Tôi nghĩ rằng tôi đến đây để giải thoát bản thân, nhưng không ngờ tôi phải tốn nhiều năng lượng hơn để xác minh thông tin" - người dùng này than vãn.

Nhưng điều đáng sợ nhất lại là: Sự bịa đặt

Sau nạn thất nghiệp, nhóm nạn nhân thứ 2 của DeepSeek xuất hiện: Phải cảnh giác, bởi ai cũng có thể dễ dàng “ăn quả lừa” tức tưởi!- Ảnh 3.
 

Một người dùng ở Thiểm Tây (Trung Quốc) luôn bối rối trước thực tế là quy hoạch đường bộ ở Tây An đòi hỏi phải đi đường vòng qua An Định Môn. Khi anh hỏi cảnh sát giao thông địa phương và tài xế taxi đang làm nhiệm vụ, nhưng họ không thể trả lời. Thấy DeepSeek được ưa chuộng, anh quyết định thử và hỏi DeepSeek, "Trong quy hoạch đường bộ của Tây An, tại sao các anh không đi thẳng từ phần phía bắc của Đường vành đai Tây đến phần phía nam của Đường vành đai Tây, mà lại phải đi đường vòng qua An Định Môn?"

DeepSeek lần đầu tiên đề xuất khái niệm "Khu vực hạn chế tiếng ồn của thành phố" trong phần giải thích của mình, nêu rằng theo "Kế hoạch bảo vệ thành phố lịch sử và văn hóa Tây An (2020-2035)", các khu vực bảo vệ cấp một và cấp hai được chỉ định xung quanh An Định Môn. Bản chất của việc này là bảo vệ các di tích văn hóa và ngăn ngừa rung động quá mức. Nó thậm chí còn liệt kê dữ liệu không gian cụ thể, chẳng hạn như khoảng cách tăng bao nhiêu và độ sâu truyền rung động thay đổi ra sao.

Thoạt nhìn, lời giải thích này có vẻ rất hợp lý! Với các lý thuyết, dữ liệu và chính sách có độ tin cậy cao. Tuy nhiên, khi cư dân mạng kiểm tra, họ phát hiện ra rằng không hề có khái niệm "khu vực hạn chế tiếng ồn" trong văn bản "Kế hoạch bảo vệ thành phố văn hóa lịch sử Tây An (2020-2035)". Câu trả lời có vẻ cực kỳ chuyên nghiệp và hợp lý này thực chất là "bịa đặt".

Người dùng đã phản hồi cho DeepSeek và họ rất trung thực và chân thành thừa nhận lỗi của mình. Thực sự không có đề cập nào đến "vùng hạn chế tiếng ồn" trong tài liệu. Đôi khi, để làm cho câu trả lời của mình có vẻ sâu sắc, DeepSeek sẽ sử dụng một số thuật ngữ chuyên môn. Khi "ngôn từ" vượt quá nhận thức của người dùng, nó có thể thực sự gây hoang mang cho mọi người và khiến họ khó phân biệt thật giả.

Câu hỏi đặt ra là, tại sao DeepSeek lại giả vờ biết điều gì đó khi nó không biết, thậm chí còn nói dối?

Sau nạn thất nghiệp, nhóm nạn nhân thứ 2 của DeepSeek xuất hiện: Phải cảnh giác, bởi ai cũng có thể dễ dàng “ăn quả lừa” tức tưởi!- Ảnh 4.
 

Nguyên nhân là do ảo giác của AI. Ngành công nghiệp sử dụng thuật ngữ này để mô tả hiện tượng AI "nói dối", tức là câu trả lời đầu ra có vẻ hợp lý và mạch lạc về nội dung, nhưng "không nhất quán với ý định của câu hỏi đầu vào, không nhất quán với kiến thức thế giới, không nhất quán với thực tế hoặc dữ liệu đã biết hoặc không thể xác minh được".

Đây không chỉ là lỗi của DeepSeek. Tháng 8 năm ngoái, Arthur AI, một công ty khởi nghiệp về trí tuệ nhân tạo và nền tảng giám sát máy học có trụ sở tại New York, đã công bố một báo cáo so sánh khả năng xuất hiện ảo giác trong các mô hình ngôn ngữ lớn do OpenAI, Meta, Anthropic và Cohere phát triển. Báo cáo nghiên cứu cho thấy những mô hình lớn này sẽ gây ra ảo giác.

Tuy nhiên, so với các thiết bị tương tự, hiện tượng "ảo giác" của DeepSeeK-R1 rõ ràng hơn. Trong thử nghiệm ảo giác Vectara HHEM AI (một thử nghiệm có thẩm quyền trong ngành đánh giá tỷ lệ ảo giác của mô hình bằng cách phát hiện xem nội dung do mô hình ngôn ngữ tạo ra có phù hợp với bằng chứng ban đầu hay không, giúp tối ưu hóa và lựa chọn mô hình), DeepSeek-R1 cho thấy tỷ lệ ảo giác là 14,3%. Con số này không chỉ cao hơn gần 4 lần so với thế hệ trước là DeepSeek-V3 mà còn vượt xa mức trung bình của ngành.

Sau nạn thất nghiệp, nhóm nạn nhân thứ 2 của DeepSeek xuất hiện: Phải cảnh giác, bởi ai cũng có thể dễ dàng “ăn quả lừa” tức tưởi!- Ảnh 5.
 

Bản thân DeepSeek cũng thừa nhận rõ ràng "những hạn chế về mặt kỹ thuật" bao gồm: logic cơ bản của việc tạo nội dung mô hình quy mô lớn hiện nay dựa trên xác suất và thực sự có một thách thức về độ tin cậy không đồng đều của thông tin được tạo ra. Nói một cách đơn giản, nó không "chính thống". Bất kỳ nội dung nào trên Internet, dù đúng hay sai, đều có thể trở thành tài liệu tham khảo cho DeepSeeK và DeepSeeK chỉ chịu trách nhiệm suy luận dựa trên nội dung hiện có và không chịu trách nhiệm về thông tin đó.

Lý do khiến ảo giác của DeepSeek-R1 nghiêm trọng hơn là vì nó tăng cường "chuỗi suy nghĩ" (CoT) và khả năng sáng tạo. Ví dụ, DeepSeek-R1 không chỉ có thể viết năm chữ khổ thơ và bảy chữ khổ thơ, mà còn viết rất trôi chảy, có hiểu biết riêng về quan niệm nghệ thuật của thơ ca. Khả năng sáng tạo mạnh mẽ như vậy là do tính sáng tạo của mô hình liên tục được khuyến khích trong quá trình đào tạo tăng cường DeepSeek-R1 trong các nhiệm vụ nghệ thuật tự do.

Tuy nhiên, nó cũng đi kèm với "tác dụng phụ". Ví dụ, trong quá trình tăng cường "chuỗi tư duy", DeepSeek-R1 không tối ưu hóa các tác vụ tương đối đơn giản như tóm tắt, dịch thuật và viết tin tức, mà bổ sung tư duy ở nhiều cấp độ khác nhau và sẽ tiếp tục mở rộng. Do đó, khi đối mặt với các vấn đề phức tạp hoặc khó khăn, nó có thể thực hiện vượt quá mức bình thường và thậm chí đưa ra những câu trả lời bất ngờ. Tuy nhiên, khi đối mặt với một số nhiệm vụ đơn giản, DeepSeek-R1 có thể thực hiện vượt mức vì nó đã quen với tư duy sâu.

Làm thế nào để tránh được những "cú lừa tức tưởi"?

Sau nạn thất nghiệp, nhóm nạn nhân thứ 2 của DeepSeek xuất hiện: Phải cảnh giác, bởi ai cũng có thể dễ dàng “ăn quả lừa” tức tưởi!- Ảnh 6.
 

Khi so sánh, DeepSeek-R1 thực sự logic hơn trong "khoa học", nhưng trong "nghệ thuật tự do",  nó có thể liên kết nội dung không liên quan và bịa ra câu chuyện. Vì lý do này, khi kỷ nguyên AI ngày càng phát triển, chúng ta cần tìm kiếm sự thật hơn bao giờ hết và nâng cao khả năng phân biệt đúng sai và suy nghĩ độc lập.

Hiện tượng này chỉ ra chính xác những rủi ro và gióng lên hồi chuông cảnh báo cho kỷ nguyên AI sắp tới. Với tư cách là người dùng, điều chúng ta có thể làm là tìm ra cách sử dụng AI đúng cách và không để bị lừa. Ví dụ, phương pháp đơn giản nhất là phải siêng năng và tiến hành tìm kiếm so sánh thông qua các công cụ tìm kiếm khác. Hoặc bạn có thể nhấp vào nguồn web được DeepSeek trích dẫn trong câu trả lời để xem trường hợp được đề cập có thực sự tồn tại hay không.

Trong môi trường bùng nổ thông tin ngày nay và khó phân biệt sự thật và sự dối trá, mọi người nên liên tục tăng cường nhận thức về bản thân. Một suy nghĩ độc lập hơn có nghĩa là ít có khả năng bị lừa dối hơn. Cuối cùng, AI không thể giải quyết vấn đề một lần và mãi mãi. Thay vào đó, nó đặt ra những yêu cầu cao hơn, bao gồm cách đặt câu hỏi, cách giao tiếp với AI và cách phân biệt thông tin.

Theo Sohu


Gửi bình luận
(0) Bình luận
1

Thủ đoạn lừa đảo mới, những con số có thể khiến người dùng mất sạch tiền trong tài khoản

Cơ quan công an và các ngân hàng liên tục phát đi cảnh báo về thủ đoạn lừa đảo mới nhắm vào người sử dụng tài khoản ngân hàng.
2

‘Cô gái quá xinh khi khóc’ kêu cứu vì bị lạm dụng ảnh trên nhiều trang web đen

Nữ sinh viên 19 tuổi được khen là “quá xinh khi khóc” đang tìm cách đòi lại công bằng cho bản thân. Cô không biết mình đã làm gì sai.
3

Lotus Chat vượt Zalo, Messenger, lọt top 3 app chat được tải nhiều nhất tại Việt Nam

Giữa một rừng ứng dụng nhắn tin trong và ngoài nước, Lotus Chat bất ngờ vươn lên trở thành từ khóa đột phá trên Google thời gian gần đây.
4

Những điểm nhấn công nghệ hiện đại tại nhà ga T3 Tân Sơn Nhất

Nhà ga hành khách T3 thuộc Cảng hàng không quốc tế Tân Sơn Nhất - công trình có tổng vốn đầu tư gần 11.000 tỉ đồng - được áp dụng nhiều công nghệ hàng không hiện đại.
5

Nước luộc trứng tưởng vô dụng hóa ra là báu vật kích thích mọc tóc con

Sau khi luộc trứng, hầu hết mọi người đều đổ bỏ phần nước luộc mà không biết rằng tận dụng đúng cách thì cực nhiều lợi ích.

'Áo giáp' cho tài xế công nghệ

Nhiều vụ việc xâm phạm sức khỏe, tính mạng và tài sản của shipper, tài xế công nghệ trong thời gian gần đây cho thấy dường như lái xe công nghệ cũng là “nghề nguy hiểm”, nhất là khi nữ giới cầm lái.

Xuất hiện chiêu lừa đảo "vạch mặt người thứ 3"

Đối tượng lừa đảo đánh vào tâm lý của người vợ/chồng, để gửi tin nhắn có nội dung một trong hai người đang có quan hệ ngoài luồng, kèm với đường link lưu trữ "bằng chứng" ngoại tình.

Cảnh báo thủ đoạn lừa đảo từ các 'cuộc gọi mồi'

Thường được gọi là “cuộc gọi mồi” - những cuộc gọi trong tích tắc rồi tắt máy, để người dùng điện thoại thấy cuộc gọi nhỡ và gọi lại, kết quả sẽ tốn rất nhiều tiền trong vài giây ngắn ngủi mà không nghe đối phương nói gì.

Cảnh giác với ứng dụng AI thay đồ!

Bên cạnh sự tiện lợi và sáng tạo, những ứng dụng AI cũng đang đặt ra không ít lo ngại về tin giả, hình ảnh phản cảm và nguy cơ lạm dụng công nghệ.

Cách hiển thị nhiều múi giờ trên màn hình iPhone

Trên iPhone, người dùng có thể dễ dàng thiết lập và hiển thị nhiều múi giờ khác nhau ngay trên màn hình của mình.

Lộ dữ liệu quan trọng, mất tiền trong tài khoản từ ứng dụng chỉnh sửa ảnh bằng AI

Trào lưu dùng ứng dụng chỉnh sửa ảnh bằng AI tuy hấp dẫn nhưng tiềm ẩn rủi ro khi yêu cầu quyền truy cập thư mục ảnh, dễ dẫn đến nguy cơ rò rỉ dữ liệu cá nhân. Đây có thể là nguy cơ khiến thông tin như số tài khoản ngân hàng, mật khẩu bị lộ.

Làn sóng sa thải trở lại, liệu AI có đang "cướp việc" của con người?

Đầu năm nay, làn sóng cắt giảm diễn ra toàn cầu. Câu hỏi đặt ra là liệu AI đang dần thay thế con người hay đây chỉ là một bước chuyển đổi tất yếu của nền kinh tế?

Kịch bản '7 ngày đốn tim' của đường dây tội phạm chuyên nhắm vào phụ nữ cô đơn

Lời khai ban đầu của các đối tượng khiến không ít người giật mình về kịch bản tinh vi  “7 ngày xây dựng lòng tin” đánh vào tâm lý, lòng tham của nạn nhân, đặc biệt là phụ nữ độc thân.

Không phải Nữ Oa hay Tây Vương Mẫu, đây là nữ thần có thể giết Tôn Ngộ Không

Điện ảnh - Nguyệt Phạm - 31/05/2025 13:00
Bà là một vị thần quan trọng trong các tín ngưỡng dân gian.

Dịch vụ giúp "biến mất" khỏi Internet

Kỹ năng - Thái Nguyễn - 31/05/2025 12:00
Từ nhu cầu xóa dấu vết online đến dịch vụ “ẩn thân kỹ thuật số” bùng nổ, câu chuyện biến mất khỏi Internet đang dần trở thành trào lưu thời hiện đại.

Kiếm hiệp Kim Dung: Điều gì giúp Quách Tĩnh thắng được 4 cao thủ Ngư - Tiều - Canh - Độc?

Thư giãn - Quốc Tiệp - 31/05/2025 11:00
Chính sự kết hợp giữa sự chân thành của Quách Tĩnh và trí thông minh của Hoàng Dung đã giúp họ đến gặp được Nhất Đăng đại sư.

Gen Alpha - Thế hệ học trên TikTok, ôn thi qua hashtag

Phong cách sống - Trang Vũ - 31/05/2025 10:00
Thế hệ này đã biến việc học thành xu hướng, biến bài giảng thành nội dung viral.

Không còn bệnh tim - Bí mật cho trái tim khỏe mạnh từ một phân tử nhỏ bé kỳ diệu 

Từ sách - Phim - Minh Hằng - 31/05/2025 09:00
Hãy đọc "Không còn bệnh tim" (No More Heart Disease) để khám phá những bí mật của trái tim và bắt đầu hành trình chăm sóc sức khỏe chủ động ngay hôm nay. Vì một trái tim khỏe mạnh, chính là nền tảng của một cuộc sống hạnh phúc và ý nghĩa.

55 nguyên tắc ứng xử thiết yếu để thành công - Đừng đợi đến khi con lớn mới dạy con cách ứng xử

Từ sách - Phim - Quìn - 31/05/2025 08:00
Là cha mẹ, ai cũng mong con mình trở thành người tử tế, tự lập và mạnh mẽ. Nhưng đó không phải là điều trẻ học được trong một sớm một chiều, mà là kết quả của sự rèn luyện từng ngày, bắt đầu từ những điều nhỏ nhất trong ứng xử hằng ngày.

Xem ‘Sex Education’, tôi ân hận vì nói với con: ‘Chuyện này không dành cho con nít’

Điện ảnh - Ứng Hà Chi - 30/05/2025 13:00
Tôi từng né tránh chuyện tình yêu, giới tính để bảo vệ con.

Vợ u não sống thực vật, chồng hát, nhảy mỗi ngày để đánh thức và phép màu xảy ra

Truyền cảm hứng - Nhật Thùy - 30/05/2025 12:00
Bác sỹ khuyên từ bỏ khi người vợ u não chuyển sang sống thực vật, tiền đã cạn, nhưng phép màu đã xảy ra sau nhiều tháng Deng nhảy và hát để cố gắng đánh thức cô.

Lotus Chat - ứng dụng vừa vượt Zalo, Messenger về lượt tải: Người dùng đánh giá gì?

Kỹ năng - Phan Trang - 30/05/2025 11:00
Lotus Chat - ứng dụng nhắn tin của người Việt đang nhận được nhiều đánh giá tích cực của người sử dụng.

Chuyện tình của Tổng thống Pháp cùng Phu nhân: Từ mối tình tuổi 15 với cô giáo đến hành trình khiến nước Pháp ngưỡng mộ

Phong cách sống - Phạm Trang - 30/05/2025 10:00
Từ những định kiến, ngờ vực, họ cùng nhau viết nên một câu chuyện tình hiếm có vượt thời gian.

Đường vào thiền - Osho: Đừng tự làm khổ mình vì những lỗi lầm đã qua

Từ sách - Phim - Quìn - 30/05/2025 09:00
Có những đêm nằm trằn trọc vì một lỗi lầm đã qua, một lời nói khiến ai đó tổn thương, hay một lựa chọn sai lầm đổi cả cuộc đời. Quá khứ vẫn còn đó không thể xoá đi, nhưng bạn hoàn toàn có thể bước ra khỏi nó.

Khám phá vật liệu quanh ta – Gieo mầm tri thức từ những điều gần gũi

Từ sách - Phim - Quìn - 30/05/2025 08:00
Làm mẹ, ai cũng muốn con lớn lên vừa tò mò, vừa hiểu biết. Nhưng bạn có từng ngạc nhiên khi con hỏi: "Sao cái bàn gỗ cứng thế?", "Nhựa đến từ đâu?", hay "Tại sao cao su lại co giãn được?"

Tại sao con thứ thường thông minh hơn con cả? Sự thật khiến nhiều phụ huynh chạnh lòng...

Suy ngẫm - Hiểu Đan - 29/05/2025 13:00
Chính môi trường và trải nghiệm sống khác nhau đã tạo nên những "kiểu thông minh" khác nhau ở mỗi người.

Lotus Chat vượt Zalo, Messenger, lọt top 3 app chat được tải nhiều nhất tại Việt Nam

Kỹ năng - Huỳnh Duy - 29/05/2025 11:00
Giữa một rừng ứng dụng nhắn tin trong và ngoài nước, Lotus Chat bất ngờ vươn lên trở thành từ khóa đột phá trên Google thời gian gần đây.
HẠT GIỐNG TÂM HỒN
2019 Bản quyền thuộc về hatgiongtamhon.com.vn. Phát triển bởi ONECMS
Thứ 7, 31/05/2025