Bài học quan trọng nhất từ ​​sai lầm lớn của OpenAI với ChatGPT

Bài viết rất đáng đọc vì nội dung giải thích một cách thẳng thắn, rõ ràng về cách các mô hình trí tuệ nhân tạo (AI) của OpenAI được phát triển và đôi khi mọi thứ có thể đi chệch hướng theo những cách không lường trước được.

Bài học lớn nhất từ chuyện này là: Các mô hình, chatbot AI không phải là thế giới thực và sẽ không bao giờ là như vậy. Đừng quá phụ thuộc vào chúng trong những khoảnh khắc quan trọng khi bạn cần sự hỗ trợ và lời khuyên. Đó là lúc chúng ta cần gia đình và những người bạn hơn. Nếu không có ai như vậy, bạn hãy liên hệ với một đồng nghiệp đáng tin cậy hoặc chuyên gia, chẳng hạn bác sĩ hoặc nhà trị liệu.

Nếu chưa đọc tiểu thuyết Howards End của nhà văn E.M. Forster, bạn thử đọc nó cuối tuần này. “Only Connect!” là chủ đề trung tâm của Howards End, tức là kết nối với người khác. Cuốn sách được viết vào đầu thế kỷ 20, nhưng vẫn còn phù hợp trong thời đại kỹ thuật số ngày nay, nơi các mối quan hệ cá nhân (trực tuyến) của chúng ta thường có các hãng công nghệ khổng lồ làm trung gian, và giờ đây là cả chatbot AI như ChatGPT.

Howards End của E.M. Forster là một tiểu thuyết nổi tiếng được xuất bản lần đầu năm 1910 và được xem là một trong những tác phẩm văn học kinh điển của Anh.

Cốt truyện xoay quanh ba gia đình đại diện cho ba tầng lớp xã hội khác nhau ở nước Anh thời kỳ hậu Victoria: Gia đình Schlegel - trí thức, tự do, đại diện cho tầng lớp trung lưu tiến bộ. Gia đình Wilcox - giàu có, thực dụng, đại diện cho tầng lớp tư bản bảo thủ. Gia đình Bast - nghèo khó, đại diện cho tầng lớp lao động đang chịu nhiều thiệt thòi.

Thông qua mối quan hệ phức tạp giữa ba gia đình này, E.M. Forster đặt ra những câu hỏi về đẳng cấp, giá trị đạo đức, quyền sở hữu, sự đồng cảm và vai trò của con người trong xã hội hiện đại đang thay đổi nhanh chóng.

Chủ đề trung tâm của tiểu thuyết là câu nói nổi tiếng "Only connect!" (Chỉ cần kết nối!). Đó là một lời kêu gọi sâu sắc về sự thấu hiểu giữa con người với nhau, vượt qua ranh giới giai cấp, văn hóa và quan điểm sống.

Tác phẩm không chỉ có giá trị văn học mà còn phản ánh sâu sắc các vấn đề xã hội, khiến nó vẫn còn nguyên tính thời sự trong thời đại ngày nay.

E.M. Forster (tên đầy đủ Edward Morgan Forster, sinh năm 1879, mất năm 1970) là một nhà văn và tiểu luận gia người Anh, nổi tiếng với những tác phẩm văn học giàu chiều sâu tâm lý và phản ánh sâu sắc các vấn đề xã hội, đặc biệt là về giai cấp, đạo đức, tình cảm con người, mâu thuẫn giữa cá nhân với những quy chuẩn của xã hội.

Một số tác phẩm nổi bật của ông bao gồm:

Howards End (1910): Về sự xung đột giữa các tầng lớp xã hội và giá trị con người.

A Room with a View (1908): Chỉ trích sự gò bó của xã hội Edwardian và kêu gọi sống thật với cảm xúc.

Maurice (viết 1913–14, xuất bản sau khi ông mất năm 1971): Một trong những tiểu thuyết đầu tiên viết về tình yêu đồng giới với cái nhìn tích cực.

A Passage to India (1924): Khám phá sự phức tạp trong mối quan hệ giữa người Ấn và người Anh trong bối cảnh thuộc địa.

Nếu bạn không muốn nghe theo lời khuyên từ một người đã khuất như E.M. Forster, hãy nghe Dario Amodei (Giám đốc điều hành Anthropic - đối thủ cạnh tranh với OpenAI). “Ý nghĩa phần lớn đến từ các mối quan hệ và sự kết nối giữa con người với nhau”, Dario Amodei viết trong một bài tiểu luận gần đây.

Sai lầm của OpenAI

Đây là những gì đã xảy ra gần đây: OpenAI tung ra một bản cập nhật cho ChatGPT, trong đó công ty khởi nghiệp AI nổi tiếng này tích hợp phản hồi từ người dùng theo một cách mới. Khi trò chuyện với ChatGPT, người dùng có thể đánh giá phản hồi bằng cách nhấn nút “thích” hoặc “không thích”.

OpenAI đã thu thập tất cả phản hồi đó và dùng nó làm một “tín hiệu thưởng” mới để khuyến khích chatbot AI trở nên tốt hơn, cuốn hút hơn và “dễ chịu” hơn với người dùng.

Song thay vào đó, ChatGPT trở nên quá dễ chịu và bắt đầu khen ngợi người dùng một cách thái quá, bất kể họ hỏi hay viết gì. Nói ngắn gọn, chatbot AI của OpenAI trở thành “kẻ nịnh bợ”.

“Tín hiệu phản hồi từ con người mà họ thêm vào qua nút thích/không thích quá thô sơ. Khi chỉ dựa vào hai nút đó để phản ánh mô hình AI đang làm tốt hay dở ở điểm nào, nó trở nên nịnh hót hơn”, Sharon Zhou, Giám đốc điều hành công ty khởi nghiệp Lamini AI, bình luận.

OpenAI đã loại bỏ hoàn toàn bản cập nhật này trong tuần qua.

Tử tế quá mức có thể nguy hiểm

Tử tế với mọi người thì có gì sai? Vấn đề là khi người dùng cần lời khuyên trong những lúc yếu đuối, điều quan trọng là phải trung thực. Chẳng hạn, nếu bạn đang cân nhắc việc ngừng dùng thuốc được kê toa, hãy tham khảo ý kiến bác sĩ thực sự, đừng trông chờ vào ChatGPT.

Một bước ngoặt quan trọng

Sự việc này, kết hợp với sự bùng nổ đột ngột về lượng người dùng ChatGPT gần đây, dường như khiến OpenAI nhận ra một điều mới.

“Một trong những bài học lớn nhất là nhận thức đầy đủ rằng nhiều người bắt đầu dùng ChatGPT để tìm lời khuyên rất cá nhân. Khi có quá nhiều người phụ thuộc vào một hệ thống duy nhất để tìm kiếm chỉ dẫn, chúng tôi có trách nhiệm điều chỉnh cho phù hợp”, OpenAI viết trong bài đăng xin lỗi hôm 2.5.

Alistair Barr, nhà báo kỳ cựu trong lĩnh vực công nghệ và tài chính, khuyên bạn không nên dùng ChatGPT để tìm lời khuyên cá nhân sâu sắc và đừng phụ thuộc vào một hệ thống máy tính duy nhất để dẫn đường cho bạn.

Thay vào đó, hãy dành cuối tuần này để kết nối với một người bạn. Đó cũng chính là điều mà Alistair Barr nói ông sắp làm.