Google đã nộp đơn kiện lên Tòa án Liên bang Quận Nam New York nhắm vào tổ chức tội phạm mạng Trung Quốc Outsider Enterprise, cáo buộc nhóm này lợi dụng hệ thống trí tuệ nhân tạo Gemini của hãng để vận hành mạng lưới lừa đảo quy mô lớn. Đây là lần đầu tiên Google phối hợp với FBI và ba nhà mạng AT&T, T-Mobile, Verizon để triệt phá mạng lưới này.
Chi tiết vụ kiện
Theo đơn kiện, chỉ trong hai tuần của tháng 5, Outsider Enterprise đã gửi 2,5 triệu tin nhắn đến người dùng Android, dẫn đến 9.000 website giả mạo và hơn một triệu địa chỉ web gian lận. Khoảng 55.000 tin nhắn rác đã bị người dùng báo cáo. Hàng trăm nghìn người, chủ yếu là người Mỹ, bị ảnh hưởng với thiệt hại ước tính nhiều triệu USD.
Bà Halimah DeLaine Prado, cố vấn pháp lý của Google, cho biết: "Đây là nỗ lực phối hợp và vụ kiện đầu tiên của chúng tôi, phản ánh mức độ ảnh hưởng rộng lớn của chiến dịch lừa đảo này."
Cách thức hoạt động
Outsider Enterprise dùng Gemini để tạo 131 bộ công cụ phần mềm, sản xuất hàng loạt website giả mạo các thương hiệu như Google, YouTube, Bưu chính Mỹ và dịch vụ thu phí E-ZPass. Các bộ công cụ được chia sẻ và mua bán trong nhóm Telegram nội bộ.
Google không tiết lộ biện pháp ngăn chặn lạm dụng Gemini, nhưng yêu cầu tòa án ra lệnh hạn chế khẩn cấp để đóng cửa mạng lưới.
Cảnh báo từ FBI
Ông Brett Leatherman, Trợ lý Giám đốc Bộ phận Tội phạm mạng FBI, nhận định: "Tội phạm ngày càng dùng AI để khiến lừa đảo thuyết phục và khó phát hiện hơn, cần giải pháp lâu dài."
Theo báo cáo của FBI, tội phạm mạng lừa đảo người Mỹ gần 21 tỷ USD năm ngoái, trong đó 893 triệu USD liên quan đến AI. Google cảnh báo AI có thể "siêu nạp" các mối đe dọa lừa đảo.
