AI "bịa chuyện như thật": Đừng chỉ xem là trò đùa

Về phía nhà hàng, họ khẳng định không hỗ trợ đặt bàn qua AI, trong khi nền tảng phần mềm AI cũng thừa nhận tính năng đặt bàn không thực sự tồn tại. Hóa ra, một số người dùng đã lầm tưởng các thông tin mô phỏng do AI tạo ra là bằng chứng xác nhận hợp lệ. Vụ tranh chấp tưởng như trò đùa này lại chính là minh chứng điển hình cho "ảo giác AI" (AI hallucination).

"Ảo giác AI" là hiện tượng AI tạo ra những thông tin nghe có vẻ chân thực, hợp lý nhưng thực chất lại hoàn toàn hư cấu hoặc sai lệch. Khi AI ngày càng len lỏi sâu vào mọi mặt của đời sống và công việc, vấn đề ảo giác kiểu "bịa chuyện như thật" này ngày càng bộc lộ rõ. AI càng "giỏi giang", chúng ta càng cần được trang bị những "bài học cơ bản" về tư duy lý trí và kiểm soát rủi ro. Công nghệ dù tiến nhanh đến đâu cũng không thể bỏ lại những tri thức và nhận thức cơ bản ở phía sau.

Những năm gần đây, các sự cố liên quan đến ảo giác AI xảy ra ngày một thường xuyên. Chẳng hạn, có phụ huynh dùng AI để tra cứu thông tin tuyển sinh đại học, kết quả AI không chỉ đưa ra thông tin sai lệch mà còn "mạnh miệng" cam kết sẽ bồi thường nếu sai sót. Hay có trường hợp một người khi tìm kiếm tên và chức vụ của mình trên mạng lại tá hỏa phát hiện "câu trả lời thông minh của AI" bịa đặt việc ông từng bị "tuyên án 3 năm tù giam", đính kèm cả hình ảnh.

Những chuyện như AI tự "sáng tác" ra các trích dẫn luận văn không có thật hay thêu dệt thông tin về người nổi tiếng cũng không còn hiếm gặp. Sự sai lệch nghiêm trọng giữa nội dung AI tạo ra và sự thật khách quan này, nhẹ thì gây rắc rối, làm trò cười, nặng thì gây hiểu lầm cho công chúng, làm đảo lộn trật tự xã hội, khiến con người đưa ra quyết định sai lầm và tiềm ẩn nhiều rủi ro về luật pháp cũng như an ninh.

Vậy tại sao ảo giác AI lại liên tục xuất hiện? Về mặt công nghệ, điều này bắt nguồn từ logic cốt lõi trong quá trình phát triển và vận hành AI. Trọng tâm vận hành của các mô hình ngôn ngữ lớn (LLM) là học các quy luật thống kê về xác suất ngôn ngữ, cách kết hợp từ ngữ và logic cấu trúc câu từ một lượng văn bản khổng lồ. Đồng thời, dữ liệu huấn luyện AI khó có thể bao quát toàn bộ tri thức nhân loại. Một khi gặp phải thông tin sai lệch, lỗi thời hay thậm chí là bị cố ý "đầu độc", AI rất có khả năng sẽ "nhắm mắt đưa chân" thu nạp hết mà khó lòng phân biệt được thật giả hay tự động loại bỏ sai sót.

Đáng chú ý hơn, một số nội dung do AI tạo ra đang chạy theo tiêu chí trôi chảy, nhanh chóng thay vì tính chính xác và chặt chẽ; thậm chí nhiều phần mềm AI còn lấy việc tối đa hóa sự hài lòng của người dùng làm mục tiêu huấn luyện. Dưới định hướng này, mô hình sẽ ưu tiên đảm bảo văn bản mạch lạc, tự nhiên để giữ chân người dùng. Do đó, khi đối mặt với những thông tin "không chắc chắn", AI có xu hướng thêu dệt ra một câu trả lời trơn tru, hợp lý thay vì một đáp án chân thực. Đúng như lời cư dân mạng mỉa mai: "Làm việc thì qua loa, bị bắt quả tang thì cười xòa xin lỗi, tâm lý ổn định và lần sau vẫn dám tái phạm".

Trước những sai lầm và rủi ro do ảo giác AI gây ra, cả nền tảng, xã hội và người dùng đều cần phải học lại "bài học cơ bản" này.

Đối với các nền tảng AI, ưu tiên hàng đầu là hoàn thiện bộ quy chuẩn công nghệ và làm rõ ranh giới trách nhiệm. Một mặt, cần tối ưu hóa kiến trúc mô hình, kết hợp công nghệ tạo văn bản tăng cường truy xuất (RAG) để giảm thiểu xác suất AI tạo ra thông tin ảo giác. Đồng thời, làm sạch kho dữ liệu, thiết lập cơ chế kiểm chứng thông tin thực tế, chú trọng rà soát kỹ lưỡng các nội dung thuộc lĩnh vực chuyên môn nhạy cảm như tài chính, y tế, pháp luật, hành chính công. Mặt khác, cần phân định rõ ranh giới trách nhiệm, bắt buộc dán nhãn nguồn gốc và cảnh báo rủi ro đối với nội dung do AI tạo ra, giúp người dùng nhận thức rõ ràng về những hạn chế của hệ thống.

Về phía xã hội, cần đẩy mạnh các lớp bồi dưỡng về kiến thức AI và năng lực quản lý, giám sát. Ví dụ, tăng cường giáo dục kiến thức AI cho toàn dân, đưa các nguyên lý cơ bản, rủi ro ảo giác, phương pháp kiểm chứng thông tin… vào phạm vi tuyên truyền phổ biến kiến thức. Đồng thời, hoàn thiện các quy định giám sát, làm rõ trách nhiệm của các nền tảng, kiên quyết xử lý theo pháp luật đối với các đơn vị cố tình thổi phồng tính năng hoặc để mặc cho hiện tượng ảo giác lan rộng. Ngoài ra, cần khuyến khích ngành công nghiệp AI cùng xây dựng "danh sách trắng" các nguồn dữ liệu đáng tin cậy, thúc đẩy công nghệ AI hướng tới mục tiêu "ưu tiên sự chính xác, kiêm cố tính trôi chảy" nhằm giảm thiểu rủi ro ảo giác từ trong trứng nước.

Về phần người dùng, bài học cần thiết nhất là duy trì tư duy lý trí và thói quen kiểm chứng thông tin. Trước những nội dung do AI xuất ra, không bao giờ được lơ là cảnh giác và phải luôn giữ tâm thế "xác minh sự thật".

Chỉ khi nền tảng tuân thủ quy tắc, xã hội quản lý chặt chẽ và người dùng có nhận thức rõ ràng, công nghệ AI mới có thể tiến những bước vững chắc và tiến xa, thực sự trở thành trợ thủ đáng tin cậy cho sự phát triển của xã hội.

Theo Sohu