Vào năm 2016 tại Myanmar, năm 2018 ở Brazil và tại nhiều quốc gia khác trên thế giới, các thuật toán đã và đang thực hiện việc chấm điểm video, bài đăng và mọi loại nội dung khác chỉ dựa trên hai yếu tố chính: số phút mà người dùng tương tác với nội dung đó và số lần họ chia sẻ nó với những người khác. Điều này dẫn đến một thực tế đáng lo ngại: một giờ nội dung chứa đựng những lời dối trá hoặc kích động thù hận có thể được xếp hạng cao hơn mười phút của sự thật hay lòng trắc ẩn, thậm chí cao hơn cả một giờ ngủ nghỉ cần thiết cho sức khỏe con người.
Tác động tiêu cực của thuật toán lên xã hội
Thực tế cho thấy, dối trá và thù hận có xu hướng gây tổn hại nghiêm trọng đến tâm lý của mỗi cá nhân cũng như toàn bộ cộng đồng xã hội. Trong khi đó, sự thật, lòng trắc ẩn và giấc ngủ lại là những yếu tố thiết yếu cho phúc lợi và sự phát triển lành mạnh của con người. Tuy nhiên, những giá trị quan trọng này hoàn toàn bị bỏ qua trong các thuật toán chấm điểm nội dung hiện nay.
Hệ thống xã hội mới dựa trên bản năng tầm thường
Dựa trên một hiểu biết rất hạn hẹp và phiến diện về nhân loại, các thuật toán đã góp phần tạo ra một hệ thống xã hội mới. Hệ thống này không chỉ khuyến khích những bản năng tầm thường nhất của con người, mà còn ngăn cản chúng ta nhận ra toàn bộ phổ tiềm năng phong phú của mình. Như đã được trích dẫn trong cuốn sách "Nexus - Lược sử của những mạng lưới thông tin từ Thời đại Đồ đá đến Trí tuệ Nhân tạo" của tác giả Yuval Noah Harari (do Bùi Thị Hồng Ninh và Nguyễn Quốc Tấn Trung dịch, NXB Thế giới phát hành, trang 322), các thuật toán đã vô tình tạo ra một môi trường trực tuyến ưu tiên những nội dung tiêu cực, gây hại hơn là những nội dung tích cực, mang tính xây dựng.
