Con người từ lâu đã bị ám ảnh bởi việc dự đoán tương lai, từ bói toán bằng xương thú đến trí tuệ nhân tạo (AI). Cuốn sách "Prophecy" của nhà triết học Carissa Véliz, giảng viên Đại học Oxford, phân tích sự tiến hóa này và cảnh báo rằng AI chỉ đang ru ngủ con người với sự thiếu hiểu biết của nó, theo Financial Times.
Xương thú và AI đều có thể tiên tri?
Trong những chương đầu, Véliz đưa người đọc vào một chuyến tham quan lịch sử sống động, từ các nhà tiên tri Hy Lạp và La Mã cổ đại đến sự ra đời của ngành bảo hiểm và quản trị rủi ro. Việc tìm hiểu tương lai từ nội tạng động vật hay xương thú nghe có vẻ kỳ quặc so với công nghệ hiện đại như AI và dữ liệu lớn, nhưng chúng có chung đặc điểm: đều muốn dự đoán sự phát triển của xã hội. Ví dụ, các thuật toán trong ngành bảo hiểm sử dụng dữ liệu khách hàng để dự đoán khả năng hoàn trả khoản vay và nguy cơ phạm tội tài chính. Công nghệ máy học dùng mô hình thống kê để đưa ra tỷ lệ phán đoán.
Cuốn sách ra mắt ngày 21/4. Trong kỷ nguyên học máy, con người không chỉ dựa vào dự báo của thuật toán để định hướng quyết định trong kỹ thuật, mà còn trong chính sách công, quản trị doanh nghiệp và cả cuộc sống cá nhân. Véliz lập luận rằng có một vấn đề cốt lõi: dự đoán của công nghệ máy học chỉ mang tính xác suất, nhưng lại được chấp nhận như những kết luận chắc chắn, thậm chí coi như sự thật. Việc con người dễ dàng chấp nhận những kết luận này một phần đến từ việc chúng xoa dịu nỗi lo lắng bẩm sinh về một tương lai bất định, tương tự như việc tìm đến bói toán từ xa xưa.
Hiểm họa của một xã hội AI
Nắm bắt tâm lý này, công nghệ mới bị những kẻ muốn kiểm soát quyền lực chính trị hoặc giành lợi thế thị trường lợi dụng. Véliz cảnh báo: "Các thuật toán thường là những sát thủ được các công ty phái đến để thực hiện ý chí quyền lực của họ". Tác giả chỉ ra rằng AI hiện nằm trong tay số ít tập đoàn công nghệ toàn cầu, và đây mới là bộ não thực sự của công nghệ này. Để đẩy mạnh phát triển AI, các tỷ phú công nghệ buộc cộng đồng phải chịu hệ lụy từ các trung tâm dữ liệu ngốn năng lượng, trong khi họ xây dựng hầm trú ẩn xa xỉ để chống chọi với thảm họa khí hậu.
Ngoài ra, Véliz chỉ ra một hệ lụy khác: AI dựa chủ yếu vào phân tích thống kê để đưa ra phán đoán, do đó nó sẽ chọn các giá trị trung bình. Điều này dẫn đến sự đa dạng của xã hội bị tước bỏ. Ngôn ngữ trở nên nhạt nhòa, các thuật toán chỉ đề xuất những quán cà phê dễ chịu và na ná nhau. Véliz so sánh xu hướng độc canh văn hóa này với độc canh cây trồng: cắt giảm đa dạng cây trồng khiến môi trường ít biến động hơn, nhưng dễ bị tổn thương nếu mất kiểm soát. Trong đời sống xã hội, mô hình phát triển dựa trên giá trị trung bình có thể khiến người dân trả giá nhiều hơn. Ví dụ, khách hàng phải trả nhiều tiền hơn cho gói "định giá tài sản linh hoạt" khi làm việc với ngân hàng, hay phải mặc cả với bảo hiểm y tế để được bồi thường nếu trường hợp nằm ngoài diện chi trả tiêu chuẩn. Một minh chứng đơn giản là việc con người phải nói chuyện với chatbot AI rất lâu trước khi gặp nhân viên thực tế. AI có thể giải quyết một số thắc mắc, nhưng không thể giải quyết tình huống cá nhân cụ thể, khiến nhiều người chịu phiền toái vì những giao tiếp vô nghĩa.
Cuốn sách "Prophecy" mang đến những mối liên hệ bất ngờ về AI trong đời sống và những nhận định đáng kinh ngạc về bản chất của nền kinh tế tư bản và điểm yếu của nó. Véliz cho rằng AI càng thành công trong việc chiếm lĩnh các cấu trúc kinh tế và xã hội hiện có, thì thế giới càng trở nên khó đoán và nhiều rủi ro hơn.
