Chuyên gia Đào Trung Thành: Đừng tin AI, đến Amazon cũng từng sai lầm khi tin tưởng AI

Ngày 12/5, Khóa học "Đạo đức AI" do Viện ABAII phối hợp cùng Đại sứ quán Hoa Kỳ tổ chức, được thiết kế dành riêng cho cộng đồng chuyên gia công nghệ, cán bộ quản lý nhà nước, giảng viên và nhà nghiên cứu. Đây là khoá học về đạo đức AI đầu tiên tại Việt Nam đề cập đến chuẩn mực đạo đức và khung pháp lý trong phát triển AI, hướng tới xây dựng nguồn nhân lực phát triển AI có trách nhiệm cho Việt Nam.

Tại khóa học, lấy ví dụ chứng minh vì sao đạo đức AI lại là vấn đề quan trọng, ông Đào Trung Thành - Phó Viện trưởng kiêm Chủ tịch Hội đồng Giảng viên ABAII đưa ra 2 kịch bản giả định.

Kịch bản giả định thứ nhất là nếu một chiếc xe tự lái trên một con đường không có đèn đỏ hay vạch qua đường cho người đi bộ. Bỗng nhiên một người băng đường lao vụt ra trước chiếc xe. Xe bị hư phanh và bạn không thể kiểm soát được nó. Hệ thống AI điều khiển chiếc xe giờ có 2 lựa chọn: Tiếp tục đi thẳng và tông vào người băng đường không đúng luật. Hoặc bẻ lái lao lên vỉa hè và chắc chắn tông trúng 2 người đang đi bộ trên vỉa hè.

"Vậy hệ thống AI phải làm gì? Đây là một tình huống tiến thoái lưỡng nan về mặt đạo đức thường thấy và thể hiện rõ nét sự quan trọng của đạo đức AI", ông Thành nó.

Kịch bản giả định thứ hai là nhà quản lý nhân sự sử dụng hệ thống AI để lọc hồ sơ ứng viên, dựa trên dữ liệu tuyển dụng trước đây. Nhưng hệ thống lại ưu tiên một giới tính và loại bỏ ứng viên từ các nhóm thiểu số. Điều này dấy lên một câu hỏi lớn: Liệu hệ thống AI có đang thực sự bình đẳng?

Để làm rõ hơn tình huống này, ông Thành lấy ví dụ thực tế từ Amazon. Trước đây, Amazon từng phát triển công cụ AI để chấm điểm ứng viên tiềm năng, theo thang điểm từ một đến năm sao, nhằm rút ngắn thời gian tuyển dụng.

Tuy nhiên, sau một năm vận hành, công cụ AI này không hề chọn các ứng viên nữ. Nguyên nhân do số lượng nữ ứng tuyển trong ngành công nghệ rất ít, làm cho công cụ AI của Amazon quen với những hồ sơ của nam giới và gần như loại bỏ từ khóa có liên quan hoặc chứa từ "phụ nữ". Cuối cùng, Amazon phải giải tán đội ngũ vận hành công cụ AI này và chọn phương án tuyển dụng ứng viên phù hợp hơn.

"Bạn nghĩ rằng AI sẽ thực sự công bằng, bình đẳng. Không, nó chỉ làm việc dựa trên dữ liệu quá khứ được nạp vào. Đôi khi bản thân những người tạo ra và vận hành công cụ đó không mong muốn sự bất bình đẳng, nhưng do dữ liệu quá khứ chủ yếu tập trung vào một nhóm đối tượng khiến kết quả của AI bị thiên lệch", ông Thành nói.

Theo chuyên gia, hệ thống AI ngày càng được sử dụng trong các quyết định quan trọng (ví dụ như chẩn đoán y tế, quy trình tư pháp). Nếu các hệ thống này không được đảm bảo an toàn thì có thể dẫn đến những sai lầm nguy hiểm đến tính mạng.

Ví dụ Stat News từng đưa tin hệ thống IBM Watson for Oncology bị phát hiện đề xuất điều trị ung thư không an toàn, theo báo cáo nội bộ. Nguyên nhân là hệ thống được huấn luận trên dữ liệu giả lập thay vì bệnh nhân thực tế, dẫn đến khuyến nghị không chính xác, thậm chí có thể gây hại.

Ông Thành nhấn mạnh hệ thống AI an toàn không tự nhiên mà có. Do vậy nguyên tắc cơ bản nhất khi phát triển hệ thống AI là không gây hại. "AI không có lương tâm, cảm xúc, luân lý. Các vấn đề về đạo đức đều do con người đưa vào AI", ông khẳng định.

Ông Thành đề xuất 7 nguyên tắc đạo đức AI dựa trên tham khảo các nước và khu vực, bao gồm: hệ thống an toàn và hiệu quả; quyền riêng tư dữ liệu; bảo mật, tính bền vững và độ tin cậy; khả năng giải thích; trách nhiệm giải trình; tăng trưởng, phát triển bền vững và nâng cao phúc lợi; quyền tự chủ của con người.