AI đang âm thầm định hình thế giới với những quyết định quan trọng
Theo báo cáo từ tờ Independent, các mô hình trí tuệ nhân tạo (AI) đang ngày càng tích hợp sâu vào nhiều lĩnh vực, từ tuyển dụng, cấp vay ngân hàng đến tư vấn y tế, đưa ra các quyết định hàng ngày ảnh hưởng trực tiếp đến cuộc sống con người. Điều này làm nổi bật nhu cầu cấp thiết phải hiểu rõ cách AI đưa ra những quyết định này và sự khác biệt so với quyết định của con người.
Nghiên cứu phát hiện AI hình thành 'niềm tin' nhưng theo cách độc đáo
Một nghiên cứu mới đã phân tích 43.000 quyết định mô phỏng từ các mô hình AI và khoảng 1.000 quyết định của con người, tập trung vào các tình huống quen thuộc như cho vay doanh nghiệp nhỏ, đánh giá người giữ trẻ, hoặc quyên góp cho tổ chức phi lợi nhuận. Kết quả cho thấy các hệ thống như ChatGPT của OpenAI và Gemini của Google không chỉ xử lý thông tin mà còn có xu hướng "đánh giá" người dùng một cách có hệ thống, giống như hình thành một dạng "niềm tin".
Tuy nhiên, dạng "niềm tin" này có nhiều khác biệt đáng kể so với cách con người tin tưởng lẫn nhau. Cả AI và con người đều ưu ái những người được cho là có năng lực, trung thực và thiện chí, cho thấy AI nắm bắt được các yếu tố cốt lõi như năng lực, tính chính trực và lòng tốt. Nhưng trong khi con người hình thành ấn tượng tổng quan và trực quan, AI lại tiếp cận theo cách cứng nhắc, phân tách con người thành các điểm số riêng biệt, giống như dữ liệu trong bảng tính.
AI có thể khuếch đại định kiến và thiếu tính tinh tế
Theo bà Valeria Lerman, một tác giả nghiên cứu đăng trên tạp chí Proceedings of the Royal Society A, cách đánh giá của AI là gọn gàng và có hệ thống hơn, nhưng điều này có thể dẫn đến kết quả rất khác biệt và khiến các định kiến trở nên khó phát hiện. Các nhà khoa học cảnh báo rằng cách tiếp cận này có thể khuếch đại thiên kiến, ví dụ trong các kịch bản tài chính, nơi người lớn tuổi thường nhận được kết quả có lợi hơn dựa trên đặc điểm nhân khẩu học.
"Những khác biệt này đòi hỏi phải được xem xét cẩn trọng khi diễn giải các đầu ra liên quan đến niềm tin của các mô hình ngôn ngữ lớn," nghiên cứu nêu rõ. Yaniv Dover, một tác giả khác, cho biết: "Con người có những định kiến, nhưng điều làm chúng tôi ngạc nhiên là định kiến của AI có thể mang tính hệ thống hơn, dễ dự đoán hơn và đôi khi mạnh mẽ hơn."
Không có "ý kiến AI" duy nhất và câu hỏi về sự hiểu biết
Nghiên cứu cũng chỉ ra rằng không có một "ý kiến AI" duy nhất về cùng một con người; hai hệ thống có thể hành xử rất khác nhau khi đưa ra quyết định. Tiến sĩ Lerman nhấn mạnh: "Hai hệ thống có thể trông giống nhau ở bề ngoài nhưng lại hành xử rất khác nhau khi đưa ra quyết định về con người."
Các nhà nghiên cứu cảnh báo rằng câu hỏi hiện nay không còn là liệu chúng ta có thể tin tưởng AI hay không, mà là liệu chúng ta có hiểu cách chúng "tin tưởng" chúng ta hay không. Tiến sĩ Dover kết luận: "Các hệ thống này rất mạnh mẽ. Chúng có thể mô phỏng các khía cạnh trong lập luận của con người một cách nhất quán. Nhưng chúng không phải là con người, và chúng ta không nên mặc định rằng chúng nhìn nhận con người theo cách chúng ta làm."
Nghiên cứu này nhấn mạnh sự cần thiết của việc thận trọng trong việc ứng dụng AI, đặc biệt trong các lĩnh vực quan trọng, để tránh những hậu quả không lường trước từ các định kiến được khuếch đại.
