Tiệm bánh nửa đêm
Ở Hwawoldang, mỗi món bánh sẽ giúp người đã khuất tìm lại ký ức, nói lời còn dang dở trước khi đi qua thế giới bên kia. Đó là Tiệm bánh nửa đêm.
Những hệ thống trí tuệ nhân tạo (AI) dự đoán, đang thầm lặng khoác lên mình tấm áo choàng của những nhà tiên tri hiện đại. AI gieo rắc niềm tin rằng: chỉ cần gom đủ dữ liệu, mọi ngã rẽ buồn vui của một đời người đều có thể đong đếm thành xác suất.
Nhưng giữa cơn say cuồng tín ấy, hai tác giả Arvind Narayanan và Sayash Kapoor trong cuốn sách "AI - Lợi và hại", đã kéo chúng ta về lại mặt đất. AI có thể giải mã được những phương trình bão tố ngoài đại dương, nhưng nó sẽ mãi mù lòa trước những giông bão ngầm trong một phận người.
Để bóc trần ảo vọng của các thuật toán, hai tác giả đưa người đọc bước vào “Thử thách Gia đình dễ tổn thương”, một dự án xã hội học kéo dài 15 năm, bám theo sinh kế và sự trưởng thành của hơn 4.000 đứa trẻ.
Các nhà khoa học đã gom góp một khối lượng dữ liệu khổng lồ: từ bối cảnh gia đình, giai cấp, đến từng điểm số trên lớp. 160 nhóm chuyên gia hàng đầu thế giới được giao nhiệm vụ dùng AI để "đọc vị" tương lai của các em ở tuổi 15.
Kết quả trả về là một gáo nước lạnh. Không một cỗ máy tinh vi nào đưa ra được dự báo chính xác. Thuật toán đã vấp ngã ở đâu? Câu trả lời nằm ở những góc khuất của đời sống thực.
Khi gõ cửa từng nhà để tìm hiểu vì sao máy móc đoán sai, các nhà nghiên cứu nghe được câu chuyện về một đứa trẻ đang nằm cuối bảng điểm, bỗng nhiên gượng dậy và bứt phá. Phép màu ấy không đến từ một chính sách vĩ mô, mà bắt nguồn từ một người hàng xóm tốt bụng. Người này đã kiên nhẫn ngồi cạnh em giảng bài và chìa cho em những quả việt quất ngọt lịm.
Không một dòng lệnh nào lường trước được sự hào phóng của lòng người. Những tập dữ liệu lạnh lẽo không biết cách mã hóa sự nhẫn nại, hay sức mạnh cứu rỗi từ một rổ việt quất còm cõi.
Tương tự, mặc dù khoa học xã hội giúp chúng ta hiểu nguyên nhân dẫn đến việc xung khắc và chia tay trong hôn nhân, nhưng mô hình không dự đoán được cặp đôi nào sẽ ly hôn, trong một cuộc dự đoán của các nhà khoa học vào những năm 1990 và đầu 2000.
Máy móc không chỉ bất lực trước những sự hàn gắn, mà còn ngơ ngác trước sự thành bại của đời người. Chúng ta vẫn thường tự huyễn hoặc nhau về một xã hội công bằng, nơi cứ nỗ lực là sẽ chạm tay đến vinh quang. Nhưng cuốn sách chỉ ra một thực tế ít ai muốn thừa nhận: đôi khi, thành bại được quyết định bởi những cú tung xúc xắc.
Tác giả Arvind Narayanan chua chát kể lại việc hồ sơ xin học lên cao học của ông từng nằm phủ bụi vì bị nhà trường đánh rơi, và sự nghiệp của ông chỉ được cứu vãn nhờ một người bạn tình cờ phát hiện.
Những kiệt tác như “Harry Potter” hay “Nhật ký Anne Frank” cũng đã từng bị các nhà xuất bản ghẻ lạnh hàng chục lần trước khi được phát hành. Ngay cả những hiện tượng gây bão trên mạng xã hội, rốt cuộc cũng chỉ là kết quả của một hiệu ứng đám đông không thể đoán định. AI không tạo ra, cũng chẳng tiên tri được sự thành công. Nó chỉ là kẻ chạy vòng quanh và thổi bùng lên những đốm lửa vô tình bắt trúng cơn gió.
Sự bất lực đó sẽ chỉ là một giai thoại vô hại, nếu công nghệ không can thiệp vào những quyết định sinh tử. Lằn ranh đạo đức bị phá vỡ khi cuốn sách bóc trần COMPAS, một phần mềm dự đoán rủi ro tái phạm tội tại Mỹ. Tỷ lệ đoán trúng của hệ thống này chỉ nhỉnh hơn việc nhắm mắt tung đồng xu, nhưng lại được khoác lên tấm áo toán học để định đoạt sinh mệnh của những người da màu.
 |
Nó không hề nhìn thấy tương lai của một cá nhân, nó chỉ "học vẹt" và phóng đại sự thiên kiến đã có sẵn trong hệ thống thực thi pháp luật. Khi dùng một hộp đen vô tri để tước đoạt tự do của con người, công nghệ không còn là sự tiến bộ, nó trở thành một thứ bạo quyền tàn nhẫn.
Máy móc có thể đo đếm được lượng mưa của ngày mai, nhưng vĩnh viễn không thể biết hạt mưa nào sẽ đậu lại trên vai một người đang khóc. Thuật toán thất bại không phải vì chúng ta thu thập chưa đủ dữ liệu, mà vì bản chất của kiếp nhân sinh là một chuỗi những biến thiên từ chối mọi sự sắp đặt.
Cuộc đời không phải là một phương trình cần giải quyết, mà là một thực tại cần được thấu cảm. Chúng ta không cần một cỗ máy tiên tri để cướp đi quyền được ngỡ ngàng trước ngày mai. Chỉ khi chấp nhận bước đi giữa những làn sương mù của sự bất trắc, con người mới thực sự học được cách sống đầm ấm hơn, biết trân trọng những mầm thiện ngẫu nhiên như rổ việt quất của người hàng xóm, và dũng cảm nhặt nhạnh những mảnh vỡ để kiên cường tự tay nhào nặn nên số phận của chính mình.
