Tổ chức RAND (Mỹ) đã cảnh báo về nguy cơ trí tuệ nhân tạo tiên tiến bị khai thác để thao túng thông tin và quan điểm dư luận. Ngay cả chính phủ các cường quốc cũng lo ngại tình trạng này. Mới đây, Tổng thống Mỹ Donald Trump lên tiếng cho rằng kết quả bầu cử nước này từng bị thao túng. Dù chi tiết cáo buộc còn gây tranh cãi, nhưng nguy cơ thao túng dư luận là hoàn toàn hiển hiện.
Bot ảo 'dắt mũi' người thật
Theo báo cáo của RAND, việc tạo ra các tài khoản mạng xã hội ảo (bot) để thao túng thông tin đã có từ nhiều năm qua. Ban đầu, các bot còn thô sơ, chỉ có thể lan truyền thông tin dựa trên các từ khóa do người điều khiển đưa ra. Vì không có khả năng tương tác mở rộng, chúng dễ bị phát hiện.
Khi công nghệ phát triển, các bot trở nên giống con người hơn nhờ thu thập dữ liệu trên internet để thiết lập nội dung và hồ sơ tài khoản. Chúng có thể đăng bài định kỳ để tạo tương tác ảo. Sự phát triển ban đầu của AI giúp bot cải tiến tin nhắn và cách thức nhắn tin nhằm chia sẻ thông tin sai lệch tinh vi hơn. Tuy nhiên, khả năng tương tác trực tiếp vẫn còn hạn chế.
Đột phá nhờ AI tạo sinh
Sự bùng nổ của AI gần đây đã giúp bot đột phá về khả năng thao túng. Khi được giao nhiệm vụ, bot có thể tự lập kế hoạch, thực hiện hành động, sửa đổi và quyết định khi nào hoàn thành. Về tính xác thực, bot có thể hành động giống con người thực sự, chẳng hạn thu thập thông tin để nắm bắt đặc điểm đối tượng, nhắn tin trao đổi ngắn, viết bình luận. Nhờ học sâu, bot ngày càng thông minh, tương tác với người thật trở nên thuyết phục hơn.
Về hiệu suất, AI tạo sinh giúp bot tự động tạo ra hình ảnh, video giả mạo có tính chân thực cao. Chỉ cần vài yêu cầu, AI có thể tạo hình ảnh, video độ nét cao khó nhận ra. Với mạng lưới bot khổng lồ hoạt động như con người, kết hợp mô hình ngôn ngữ lớn (LLM), chúng có thể nhân rộng ra nhiều ngôn ngữ, nhằm vào nhiều đối tượng mang đặc tính quốc gia, dân tộc, quan điểm khác nhau.
Những hệ sinh thái nguy hiểm
Để phát triển bot-farm, người đứng sau thường sử dụng máy tính bảng, điện thoại thông minh hoặc máy tính xách tay, nhưng bot cũng có thể được lưu trữ trên thiết bị và máy chủ internet vạn vật (IoT). Các bot-farm có thể sử dụng hàng nghìn, thậm chí hàng chục nghìn smartphone hoặc tablet để hình thành phone-farm. Bot-farm càng lớn càng hiệu quả khi thực hiện các tác vụ phức tạp, đòi hỏi nhiều thiết bị, sức mạnh tính toán, thuật toán và lập trình phức tạp. Thiết lập bot-farm yêu cầu cơ sở hạ tầng gồm nhiều địa chỉ IP và proxy để ẩn vị trí và danh tính, giúp mỗi bot xuất hiện như một cá nhân riêng biệt.
Những bot-farm trở thành hệ sinh thái nguy hiểm chuyên thao túng thông tin, che giấu danh tính. Chúng tiến hành các chiến dịch từ tiếp thị, kinh doanh (quảng bá hoặc bôi xấu sản phẩm, dịch vụ) đến thao túng quan điểm chính trị, xã hội, kinh tế trên mạng xã hội để định hướng thông tin có chủ đích.
Giới phân tích lo ngại rằng nếu vào thời điểm nhạy cảm, chẳng hạn khi một quốc gia đang có sự kiện chính trị - xã hội quan trọng, một bot-farm khổng lồ được huy động đồng loạt loan tin giả có thể dẫn đến bất ổn không nhỏ, bao gồm ảnh hưởng đến nền kinh tế - tài chính ở quy mô lớn. Rủi ro từ bot-farm giờ đây không còn giới hạn trên thế giới ảo.
