Nạn nhân của DeepSeek: Phải cảnh giác, bởi ai cũng có thể dễ dàng “ăn quả lừa” tức tưởi!

Trang Đào01/03/2025 12:00
Nạn nhân của DeepSeek: Phải cảnh giác, bởi ai cũng có thể dễ dàng “ăn quả lừa” tức tưởi!

Hãy cẩn thận! Nhóm người đầu tiên sử dụng DeepSeek đã bị lừa một cách tồi tệ!

Bạn có bắt đầu quen với sự "toàn năng" của DeepSeek không? DeepSeek dường như có thể mang tới cho bạn mọi câu trả lời: viết một bản kế hoạch; tra cứu một vấn đề y khoa; tìm một lời khuyên hay ngay cả giải mã một giấc mơ... Nhưng không ai có thể ngờ rằng DeepSeek, vốn đang ngày càng được nhiều người tin tưởng, lại thực sự có thể nói những điều vô nghĩa một cách nghiêm túc.

Sau nạn thất nghiệp, nhóm nạn nhân thứ 2 của DeepSeek xuất hiện: Phải cảnh giác, bởi ai cũng có thể dễ dàng “ăn quả lừa” tức tưởi!- Ảnh 1.
 

AI không phải công cụ toàn năng, nó thậm chí còn gây hoang mang vì cung cấp thông tin sai lệch

"DeepSeek không đáng tin cậy cho việc tìm kiếm tài liệu", một giáo sư từ một trường đại học nổi tiếng ở Quảng Châu (Trung Quốc) gần đây đã lên tiếng phàn nàn. Ban đầu, giáo sư muốn sử dụng DeepSeek để tìm kiếm thông tin về "Tiếng Quảng Đông toàn cầu: Sự lan tỏa của ngôn ngữ và văn hóa Quảng Đông". Tuy nhiên, sau khi xác minh, ông phát hiện tác giả mà DeepSeek cung cấp là giả mạo, năm không đúng và nhà xuất bản hoàn toàn không liên quan. Sau khi trao đổi thêm, DeepSeek thừa nhận thông tin đó là sai, cảm ơn ông đã sửa lỗi và bày tỏ lời xin lỗi.

Gần đây, Zhan Guoshu, một nhân vật truyền thông nổi tiếng và là cựu tổng biên tập của ấn bản nước ngoài của tờ Nhân dân Nhật báo, cũng đã đăng một bài viết có tựa đề: Sai sót chết người của DeepSeek - thông tin bịa đặt.

Zhan Guoshu đã trích dẫn kinh nghiệm cá nhân của mình trong bài viết và yêu cầu DeepSeek viết "Sử ký của Đại sử gia: Tiểu sử của Chiêm Quốc Thư". Tuy nhiên, thông tin cơ bản như nơi sinh và họ mẹ được hiển thị trong câu đầu tiên đã bị ghi sai. Sau đó, ông yêu cầu DeepSeek viết một bài tường thuật của một phóng viên nào đó, với phong cách sống động và nhiều ví dụ. Tuy nhiên, khi nó được chuyển cho chính phóng viên, anh ta đã phủ nhận hoàn toàn mọi thứ.

Sau nạn thất nghiệp, nhóm nạn nhân thứ 2 của DeepSeek xuất hiện: Phải cảnh giác, bởi ai cũng có thể dễ dàng “ăn quả lừa” tức tưởi!- Ảnh 2.
 

Người ta nói rằng DeepSeek có kỹ năng viết tuyệt vời và trình độ văn chương cao, nhưng tác phẩm nổi tiếng "Thế giới bình thường" của Lục Dao lại bị nhầm lẫn là tác phẩm tiêu biểu của Chiêm Quốc Thư. Điều này cực kì nguy hại, bởi nếu không có kiến thức nền vững vàng, người dùng rất dễ bị "đánh lừa" bởi những thông tin sai lệch.

Trên thực tế, việc thể hiện thông tin không chính xác gần như đã trở thành một trong những vấn đề bị phàn nàn nhiều nhất của DeepSeek. Trong đó, việc nhầm lẫn "râu ông nọ cắm cằm bà kia" của các tác phẩm và tác giả là điều thường xuyên diễn ra. Bởi vậy, nhiều người đã cho rằng DeepSeek chỉ phù hợp để viết mã và tính toán, và hoàn toàn không thân thiện hoặc hữu ích với sinh viên chuyên ngành nghệ thuật tự do.

Một số người đã thử sử dụng DeepSeek để ôn thi cấp quốc gia và cấp tỉnh đã phải học lại sách giáo khoa bởi những thông tin cơ bản đều bị sai lệch lớn.

Một số cư dân mạng cố gắng giải phóng nhân lực thông qua DeepSeek cũng bị ăn "quả lừa thậm tệ". Ví dụ, một người đã sử dụng DeepSeek để viết một bài báo và trích dẫn bốn ví dụ, nhưng khi xác minh lại thông tin, anh ta không thể tìm thấy ba trong số đó. Cuối cùng, anh ta phát hiện ra rằng tất cả chúng đều do chính DeepSeek tạo ra. "Tôi nghĩ rằng tôi đến đây để giải thoát bản thân, nhưng không ngờ tôi phải tốn nhiều năng lượng hơn để xác minh thông tin" - người dùng này than vãn.

Nhưng điều đáng sợ nhất lại là: Sự bịa đặt

Sau nạn thất nghiệp, nhóm nạn nhân thứ 2 của DeepSeek xuất hiện: Phải cảnh giác, bởi ai cũng có thể dễ dàng “ăn quả lừa” tức tưởi!- Ảnh 3.
 

Một người dùng ở Thiểm Tây (Trung Quốc) luôn bối rối trước thực tế là quy hoạch đường bộ ở Tây An đòi hỏi phải đi đường vòng qua An Định Môn. Khi anh hỏi cảnh sát giao thông địa phương và tài xế taxi đang làm nhiệm vụ, nhưng họ không thể trả lời. Thấy DeepSeek được ưa chuộng, anh quyết định thử và hỏi DeepSeek, "Trong quy hoạch đường bộ của Tây An, tại sao các anh không đi thẳng từ phần phía bắc của Đường vành đai Tây đến phần phía nam của Đường vành đai Tây, mà lại phải đi đường vòng qua An Định Môn?"

DeepSeek lần đầu tiên đề xuất khái niệm "Khu vực hạn chế tiếng ồn của thành phố" trong phần giải thích của mình, nêu rằng theo "Kế hoạch bảo vệ thành phố lịch sử và văn hóa Tây An (2020-2035)", các khu vực bảo vệ cấp một và cấp hai được chỉ định xung quanh An Định Môn. Bản chất của việc này là bảo vệ các di tích văn hóa và ngăn ngừa rung động quá mức. Nó thậm chí còn liệt kê dữ liệu không gian cụ thể, chẳng hạn như khoảng cách tăng bao nhiêu và độ sâu truyền rung động thay đổi ra sao.

Thoạt nhìn, lời giải thích này có vẻ rất hợp lý! Với các lý thuyết, dữ liệu và chính sách có độ tin cậy cao. Tuy nhiên, khi cư dân mạng kiểm tra, họ phát hiện ra rằng không hề có khái niệm "khu vực hạn chế tiếng ồn" trong văn bản "Kế hoạch bảo vệ thành phố văn hóa lịch sử Tây An (2020-2035)". Câu trả lời có vẻ cực kỳ chuyên nghiệp và hợp lý này thực chất là "bịa đặt".

Người dùng đã phản hồi cho DeepSeek và họ rất trung thực và chân thành thừa nhận lỗi của mình. Thực sự không có đề cập nào đến "vùng hạn chế tiếng ồn" trong tài liệu. Đôi khi, để làm cho câu trả lời của mình có vẻ sâu sắc, DeepSeek sẽ sử dụng một số thuật ngữ chuyên môn. Khi "ngôn từ" vượt quá nhận thức của người dùng, nó có thể thực sự gây hoang mang cho mọi người và khiến họ khó phân biệt thật giả.

Câu hỏi đặt ra là, tại sao DeepSeek lại giả vờ biết điều gì đó khi nó không biết, thậm chí còn nói dối?

Sau nạn thất nghiệp, nhóm nạn nhân thứ 2 của DeepSeek xuất hiện: Phải cảnh giác, bởi ai cũng có thể dễ dàng “ăn quả lừa” tức tưởi!- Ảnh 4.
 

Nguyên nhân là do ảo giác của AI. Ngành công nghiệp sử dụng thuật ngữ này để mô tả hiện tượng AI "nói dối", tức là câu trả lời đầu ra có vẻ hợp lý và mạch lạc về nội dung, nhưng "không nhất quán với ý định của câu hỏi đầu vào, không nhất quán với kiến thức thế giới, không nhất quán với thực tế hoặc dữ liệu đã biết hoặc không thể xác minh được".

Đây không chỉ là lỗi của DeepSeek. Tháng 8 năm ngoái, Arthur AI, một công ty khởi nghiệp về trí tuệ nhân tạo và nền tảng giám sát máy học có trụ sở tại New York, đã công bố một báo cáo so sánh khả năng xuất hiện ảo giác trong các mô hình ngôn ngữ lớn do OpenAI, Meta, Anthropic và Cohere phát triển. Báo cáo nghiên cứu cho thấy những mô hình lớn này sẽ gây ra ảo giác.

Tuy nhiên, so với các thiết bị tương tự, hiện tượng "ảo giác" của DeepSeeK-R1 rõ ràng hơn. Trong thử nghiệm ảo giác Vectara HHEM AI (một thử nghiệm có thẩm quyền trong ngành đánh giá tỷ lệ ảo giác của mô hình bằng cách phát hiện xem nội dung do mô hình ngôn ngữ tạo ra có phù hợp với bằng chứng ban đầu hay không, giúp tối ưu hóa và lựa chọn mô hình), DeepSeek-R1 cho thấy tỷ lệ ảo giác là 14,3%. Con số này không chỉ cao hơn gần 4 lần so với thế hệ trước là DeepSeek-V3 mà còn vượt xa mức trung bình của ngành.

Sau nạn thất nghiệp, nhóm nạn nhân thứ 2 của DeepSeek xuất hiện: Phải cảnh giác, bởi ai cũng có thể dễ dàng “ăn quả lừa” tức tưởi!- Ảnh 5.
 

Bản thân DeepSeek cũng thừa nhận rõ ràng "những hạn chế về mặt kỹ thuật" bao gồm: logic cơ bản của việc tạo nội dung mô hình quy mô lớn hiện nay dựa trên xác suất và thực sự có một thách thức về độ tin cậy không đồng đều của thông tin được tạo ra. Nói một cách đơn giản, nó không "chính thống". Bất kỳ nội dung nào trên Internet, dù đúng hay sai, đều có thể trở thành tài liệu tham khảo cho DeepSeeK và DeepSeeK chỉ chịu trách nhiệm suy luận dựa trên nội dung hiện có và không chịu trách nhiệm về thông tin đó.

Lý do khiến ảo giác của DeepSeek-R1 nghiêm trọng hơn là vì nó tăng cường "chuỗi suy nghĩ" (CoT) và khả năng sáng tạo. Ví dụ, DeepSeek-R1 không chỉ có thể viết năm chữ khổ thơ và bảy chữ khổ thơ, mà còn viết rất trôi chảy, có hiểu biết riêng về quan niệm nghệ thuật của thơ ca. Khả năng sáng tạo mạnh mẽ như vậy là do tính sáng tạo của mô hình liên tục được khuyến khích trong quá trình đào tạo tăng cường DeepSeek-R1 trong các nhiệm vụ nghệ thuật tự do.

Tuy nhiên, nó cũng đi kèm với "tác dụng phụ". Ví dụ, trong quá trình tăng cường "chuỗi tư duy", DeepSeek-R1 không tối ưu hóa các tác vụ tương đối đơn giản như tóm tắt, dịch thuật và viết tin tức, mà bổ sung tư duy ở nhiều cấp độ khác nhau và sẽ tiếp tục mở rộng. Do đó, khi đối mặt với các vấn đề phức tạp hoặc khó khăn, nó có thể thực hiện vượt quá mức bình thường và thậm chí đưa ra những câu trả lời bất ngờ. Tuy nhiên, khi đối mặt với một số nhiệm vụ đơn giản, DeepSeek-R1 có thể thực hiện vượt mức vì nó đã quen với tư duy sâu.

Làm thế nào để tránh được những "cú lừa tức tưởi"?

Sau nạn thất nghiệp, nhóm nạn nhân thứ 2 của DeepSeek xuất hiện: Phải cảnh giác, bởi ai cũng có thể dễ dàng “ăn quả lừa” tức tưởi!- Ảnh 6.
 

Khi so sánh, DeepSeek-R1 thực sự logic hơn trong "khoa học", nhưng trong "nghệ thuật tự do",  nó có thể liên kết nội dung không liên quan và bịa ra câu chuyện. Vì lý do này, khi kỷ nguyên AI ngày càng phát triển, chúng ta cần tìm kiếm sự thật hơn bao giờ hết và nâng cao khả năng phân biệt đúng sai và suy nghĩ độc lập.

Hiện tượng này chỉ ra chính xác những rủi ro và gióng lên hồi chuông cảnh báo cho kỷ nguyên AI sắp tới. Với tư cách là người dùng, điều chúng ta có thể làm là tìm ra cách sử dụng AI đúng cách và không để bị lừa. Ví dụ, phương pháp đơn giản nhất là phải siêng năng và tiến hành tìm kiếm so sánh thông qua các công cụ tìm kiếm khác. Hoặc bạn có thể nhấp vào nguồn web được DeepSeek trích dẫn trong câu trả lời để xem trường hợp được đề cập có thực sự tồn tại hay không.

Trong môi trường bùng nổ thông tin ngày nay và khó phân biệt sự thật và sự dối trá, mọi người nên liên tục tăng cường nhận thức về bản thân. Một suy nghĩ độc lập hơn có nghĩa là ít có khả năng bị lừa dối hơn. Cuối cùng, AI không thể giải quyết vấn đề một lần và mãi mãi. Thay vào đó, nó đặt ra những yêu cầu cao hơn, bao gồm cách đặt câu hỏi, cách giao tiếp với AI và cách phân biệt thông tin.

Theo Sohu


Gửi bình luận
(0) Bình luận
1

Cách phát hiện và mở tin nhắn ẩn trên Zalo mà không cần dùng mật khẩu

Ẩn tin nhắn trên Zalo giúp bảo mật cuộc trò chuyện, tuy nhiên điều này có thể gây khó khăn khi cần tìm lại, dưới đây là cách phát hiện và mở tin nhắn ẩn dễ dàng và nhanh chóng.
2

Smartphone có đang nghe lén bạn nói chuyện để hiển thị trúng phóc quảng cáo?

Nếu bạn bước vào một cửa hàng với smartphone đang bật Bluetooth, các nhà bán lẻ có thể theo dõi chuyển động của bạn.
3

ChatGPT thêm tính năng chỉnh sửa ảnh dễ hơn, tạo biểu đồ và infographic cho công việc tốt hơn

Các tính năng mới này có sẵn cho cả người dùng ChatGPT miễn phí và trả phí thông qua mô hình GPT-4o của OpenAI.
4

Nếu bạn còn sử dụng chiếc cốc này để uống nước đồng nghĩa với việc “mỗi ngày đều uống thuốc độc”

Những vật dụng hàng ngày có thể ẩn chứa những rủi ro rất lớn cho sức khoẻ.
5

3 bước biết ngay ai đang chụp màn hình tin nhắn Messenger

Tính năng này sẽ giúp hỗ trợ người dùng bảo vệ các thông tin riêng tư mà không lo người nhận chụp màn hình hay chia sẻ thông tin ra bên ngoài

'Áo giáp' cho tài xế công nghệ

Nhiều vụ việc xâm phạm sức khỏe, tính mạng và tài sản của shipper, tài xế công nghệ trong thời gian gần đây cho thấy dường như lái xe công nghệ cũng là “nghề nguy hiểm”, nhất là khi nữ giới cầm lái.

Xuất hiện chiêu lừa đảo "vạch mặt người thứ 3"

Đối tượng lừa đảo đánh vào tâm lý của người vợ/chồng, để gửi tin nhắn có nội dung một trong hai người đang có quan hệ ngoài luồng, kèm với đường link lưu trữ "bằng chứng" ngoại tình.

Cảnh báo thủ đoạn lừa đảo từ các 'cuộc gọi mồi'

Thường được gọi là “cuộc gọi mồi” - những cuộc gọi trong tích tắc rồi tắt máy, để người dùng điện thoại thấy cuộc gọi nhỡ và gọi lại, kết quả sẽ tốn rất nhiều tiền trong vài giây ngắn ngủi mà không nghe đối phương nói gì.

Cảnh giác với ứng dụng AI thay đồ!

Bên cạnh sự tiện lợi và sáng tạo, những ứng dụng AI cũng đang đặt ra không ít lo ngại về tin giả, hình ảnh phản cảm và nguy cơ lạm dụng công nghệ.

Cách hiển thị nhiều múi giờ trên màn hình iPhone

Trên iPhone, người dùng có thể dễ dàng thiết lập và hiển thị nhiều múi giờ khác nhau ngay trên màn hình của mình.

Lộ dữ liệu quan trọng, mất tiền trong tài khoản từ ứng dụng chỉnh sửa ảnh bằng AI

Trào lưu dùng ứng dụng chỉnh sửa ảnh bằng AI tuy hấp dẫn nhưng tiềm ẩn rủi ro khi yêu cầu quyền truy cập thư mục ảnh, dễ dẫn đến nguy cơ rò rỉ dữ liệu cá nhân. Đây có thể là nguy cơ khiến thông tin như số tài khoản ngân hàng, mật khẩu bị lộ.

Làn sóng sa thải trở lại, liệu AI có đang "cướp việc" của con người?

Đầu năm nay, làn sóng cắt giảm diễn ra toàn cầu. Câu hỏi đặt ra là liệu AI đang dần thay thế con người hay đây chỉ là một bước chuyển đổi tất yếu của nền kinh tế?

Kịch bản '7 ngày đốn tim' của đường dây tội phạm chuyên nhắm vào phụ nữ cô đơn

Lời khai ban đầu của các đối tượng khiến không ít người giật mình về kịch bản tinh vi  “7 ngày xây dựng lòng tin” đánh vào tâm lý, lòng tham của nạn nhân, đặc biệt là phụ nữ độc thân.

DeepSeek ra bản nâng cấp cho mô hình V3, cạnh tranh với ChatGPT

Kỹ năng - Sơn Vân - 30/03/2025 13:00
DeepSeek vừa công bố bản nâng cấp quan trọng cho mô hình ngôn ngữ lớn V3, đẩy mạnh cạnh tranh với các hãng công nghệ hàng đầu Mỹ như OpenAI và Anthropic.

Facebook có tính năng mới, cho phép chọn bạn bè để xem tin tức, tương tác!

Kỹ năng - Nguyễn Nghĩa - 30/03/2025 12:00
Từng một thời là nơi chỉ để kết nối với bạn bè và gia đình thân thiết, Facebook theo thời gian đã dần trở nên phức tạp hơn với vô số tính năng và nội dung gợi ý.

Chưởng môn Thanh Thành ngưỡng mộ Lý Tiểu Long, sở hữu tuyệt kỹ Phách Không Quyền

Phong cách sống - Sơn Tùng - 30/03/2025 10:00
Lưu Tuy Tân, chưởng môn phái Thanh Thành, hiện đang nắm giữ tuyệt kỹ trấn sơn Phách Không Quyền.

Xem phim 'Sex Education'', tôi rút ra 2 phương pháp hiệu quả dạy con trai đang ở tuổi nổi loạn

Điện ảnh - Mỹ Hạnh - 30/03/2025 09:00
Tôi đã dùng một tuần để xem phim ''Sex Education'', từ đó học hỏi được cách dạy con trai đang tuổi dậy thì.

Từ thị phi đến tĩnh lặng – Minh triết từ hai cuốn sách của Sa môn Thích Pháp Hòa

Từ sách - Phim - Đan Thanh - 30/03/2025 08:00
2 cuốn sách của Sa môn Thích Pháp Hòa mang lại những minh triết sâu sắc giúp người đọc tránh ra khỏi những ồn ào, thị phi để tìm về bình an trong tâm hồn mình.

Nhạc sĩ Lư Nhất Vũ qua đời

Giải trí - Tiểu Vũ - 29/03/2025 13:37
Nhạc sĩ Lư Nhất Vũ, một trong những cây đại thụ của nền âm nhạc Việt Nam đã tạ thế vào ngày 29.3. Ông đã để lại một di sản âm nhạc vô giá gắn liền với lịch sử văn hóa đất nước.

Xem xét 17 gia đình có con bị bắt cóc, tôi nhận ra rằng họ đều bỏ qua 5 lỗ hổng chết người sau

Kỹ năng - Hiểu Đan - 29/03/2025 13:00
Đến tận bây giờ, vẫn còn nhiều gia đình đang đau đáu tìm kiếm con mình. Nhiều phụ huynh khóc lóc, hối hận vô cùng vì bỏ qua những lổ hổng này!

"Mẹ ơi, chúng ta không được đi khoang hạng nhất vì nghèo sao?" - Câu trả lời của bà mẹ xứng đáng đưa vào sách giáo khoa

Suy ngẫm - Hiểu Đan - 29/03/2025 12:00
Trên chuyến bay trở về nhà sau dịp Tết Nguyên đán, đứa trẻ hỏi 1 câu khiến bà mẹ có phần lúng túng.

Nhà địa tâm lý học giải thích: Tại sao sân bay cũng được coi là địa điểm tâm linh?

Thư giãn - Thanh Long - 29/03/2025 11:00
Một số chuyến bay từ múi giờ cao về múi giờ thấp có thể hạ cánh trước cả giờ khởi hành. Điều này rõ ràng đem lại cảm giác bạn đang du hành ngược trở về quá khứ.

Cha đẻ phần mềm Unikey: Từng nhận bão dư luận khi ra mắt ‘‘bộ gõ quốc dân’’

Phong cách sống - Khuê Hiền - 29/03/2025 10:00
Tại thời điểm Unikey mới được ra mắt, ông Phạm Kim Long đã nhận về nhiều ý kiến trái chiều khi cung cấp phần mềm này miễn phí.

Xem lại Na Tra: Số mệnh chưa bao giờ là điều không thể thay đổi!

Điện ảnh - Đông - 29/03/2025 09:00
Người cha nghiệm ra được triết lý đáng suy ngẫm này.

Đường vào Thiền - Osho lật ngược khái niệm Thiền: Bạn đã hiểu sai như thế nào?

Từ sách - Phim - Minh Hằng - 29/03/2025 08:00
Đường vào thiền không đưa ra các kỹ thuật cụ thể để người đọc làm theo một cách máy móc. Thay vào đó, Osho hé mở một cánh cửa để chúng ta bước vào hành trình khám phá chính mình thông qua những câu chuyện, chỉ dẫn gần gũi và thiết thực.

Chi phí hẹn hò ngày càng cao, nhiều người “quay xe” quen búp bê người lớn

Suy ngẫm - Trang Đào - 28/03/2025 12:00
Chi phí tương tác ngoài đời thực ngày càng cao cũng là lý do khiến cho "bạn gái AI" đã trở thành lựa chọn tiết kiệm. Một nhà đầu tư thẳng thắn nói: "Những gì chúng tôi bán không phải là silicon, mà là thuốc giảm đau để chống lại sự cô đơn".

ChatGPT thêm tính năng chỉnh sửa ảnh dễ hơn, tạo biểu đồ và infographic cho công việc tốt hơn

Kỹ năng - Sơn Vân - 28/03/2025 11:00
Các tính năng mới này có sẵn cho cả người dùng ChatGPT miễn phí và trả phí thông qua mô hình GPT-4o của OpenAI.
HẠT GIỐNG TÂM HỒN
2019 Bản quyền thuộc về hatgiongtamhon.com.vn. Phát triển bởi ONECMS
Thứ 2, 31/03/2025