Cảnh báo: Tội phạm lợi dụng AI tạo clip giả để kêu gọi từ thiện bất chính
Mới đây, Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao (PA05), Công an TP.HCM, đã xử lý hai cá nhân là T.T.H (ở phường An Khánh) và N.T.M.D (ở phường Tân Sơn Nhì) vì hành vi đăng tải và chia sẻ thông tin sai sự thật trên mạng xã hội. Những thông tin này được tạo dựng bằng công nghệ trí tuệ nhân tạo (AI), gây ảnh hưởng nghiêm trọng đến uy tín tổ chức, danh dự cá nhân và tiềm ẩn nguy cơ tác động tiêu cực đến an ninh, trật tự xã hội.
Thông tin giả mạo về nghệ sĩ Quyền Linh lan truyền rộng rãi
PA05 cho biết, trên các nền tảng mạng xã hội thời gian gần đây lan truyền nhiều bài viết, hình ảnh và video với nội dung tuyên bố "Nghệ sĩ/MC Quyền Linh bị Công an TP.HCM ra lệnh bắt tạm giam". Thông tin này đã thu hút sự chú ý đáng kể từ dư luận, gây hoang mang trong cộng đồng. Tuy nhiên, qua quá trình xác minh và phân tích kỹ thuật chuyên sâu, PA05 xác định đây hoàn toàn là thông tin bịa đặt, được dựng lên bằng công nghệ AI hiện đại.
Các đối tượng đã lồng ghép hình ảnh và dữ liệu giả mạo một cách tinh vi nhằm tạo ra sự hiểu nhầm và dẫn dắt dư luận theo hướng tiêu cực. Hành vi này không chỉ vi phạm pháp luật mà còn làm xói mòn niềm tin của người dân vào các thông tin chính thống trên không gian mạng.
Fanpage "Checkin Điện Biên" bị xử phạt vì đăng clip AI giả mạo
Trong một diễn biến liên quan, vào ngày 27 tháng 3, PA05 Công an tỉnh Điện Biên đã ra quyết định xử phạt hành chính đối với ông Q. (ở phường Điện Biên Phủ, quản trị viên fanpage "Checkin Điện Biên") về hành vi cung cấp và chia sẻ thông tin giả mạo, sai sự thật được tạo bằng AI trên Facebook. Trước đó, vào ngày 20 tháng 3, fanpage này (có hơn 54.000 người theo dõi) đã đăng tải một bài viết với nội dung cảnh báo về việc "bé trai bị người lạ đưa đi" trên địa bàn tỉnh, kèm theo một đoạn video dài khoảng 8 giây được tạo dựng hoàn toàn bằng công nghệ AI.
Thông tin mang tính giật gân và chưa được kiểm chứng đã nhanh chóng lan truyền, thu hút lượng lớn tương tác, bình luận và chia sẻ từ cộng đồng mạng. Điều này đã gây ra sự hoang mang trong dư luận và ảnh hưởng không nhỏ đến tình hình an ninh, trật tự tại địa phương. Qua điều tra, công an xác định đây là một thủ đoạn tinh vi nhằm câu view, thu hút tương tác, sau đó lợi dụng để kêu gọi từ thiện một cách bất chính.
Đối tượng còn sử dụng một tài khoản chính để đăng tải nội dung gây chú ý, đồng thời dùng nhiều tài khoản ảo khác vào bình luận, tự nhận là người thân của nạn nhân nhằm tạo dựng lòng tin giả tạo. Khi bài viết đạt được lượng tương tác cao, nội dung tiếp tục được chỉnh sửa bằng AI theo hướng đăng tải thông tin về các trường hợp trẻ em hoặc người có hoàn cảnh khó khăn, kèm theo lời kêu gọi quyên góp từ thiện. Đối tượng cũng không ngần ngại thay đổi hình ảnh và đổi tên tài khoản để tăng độ tin cậy, đánh vào lòng trắc ẩn của cộng đồng mạng. Tại cơ quan công an, ông Q. đã thừa nhận toàn bộ hành vi vi phạm của mình.
Chuyên gia cảnh báo về mức độ tinh vi của công nghệ deepfake
Thượng tá Đỗ Minh Kim, Phó trưởng phòng 3, A05 (Bộ Công an), chia sẻ rằng chỉ từ một số ít hình ảnh công khai trên mạng xã hội, công nghệ AI hiện nay có thể tái tạo khuôn mặt, phong thái và giọng nói với độ chính xác cực cao. Những sản phẩm này gần như không thể phân biệt được thật hay giả bằng mắt thường, khiến người dân dễ dàng bị đánh lừa.
Thực tế cho thấy, trước mức độ tinh vi ngày càng gia tăng của công nghệ deepfake, không ít người dân thừa nhận họ đã "mất khả năng nhận diện" thông tin thật giả. Nhiều trường hợp dù xem đi xem lại video nhiều lần vẫn không phát hiện được bất kỳ dấu hiệu bất thường nào trong các hình ảnh, video lan truyền trên mạng. Việc giả mạo này không chỉ gây thiệt hại kinh tế đặc biệt nghiêm trọng mà còn làm nhiễu loạn môi trường thông tin, ảnh hưởng trực tiếp đến an ninh và trật tự xã hội.
Trẻ em đối mặt với rủi ro cao từ tội phạm công nghệ cao
Thượng tá Đỗ Minh Kim nhận định sự bùng nổ của công nghệ số, đặc biệt là AI, đang được các đường dây tội phạm khai thác triệt để nhằm che giấu, mở rộng và chuyên nghiệp hóa hoạt động phi pháp. AI cho phép tạo ra và chỉnh sửa video bằng deepfake, giả giọng nói, thậm chí vận hành các chatbot đóng vai "trợ lý ảo" để môi giới, sắp xếp lịch hẹn và dựng chân dung giả mạo để lừa đảo. Khả năng dịch thuật tức thời của AI còn xóa mờ ranh giới ngôn ngữ, tạo điều kiện cho tội phạm mại dâm xuyên quốc gia diễn ra dễ dàng, kín kẽ và khó truy vết hơn.
Lãnh đạo A05 cũng cảnh báo rằng tội phạm hiện nay xây dựng các kịch bản lừa đảo bài bản, có sự kết hợp giữa công nghệ cao và yếu tố tâm lý để chiếm đoạt tài sản của người dân. Các đối tượng khai thác sâu thông tin cá nhân của nạn nhân để tiếp cận, khiến kịch bản lừa đảo trở nên vô cùng thuyết phục và khó phát hiện.
Trong khi người lớn còn đang loay hoay nhận diện deepfake, thì hàng triệu trẻ em Việt Nam đang đối mặt với những rủi ro bị thao túng và xâm hại bởi tội phạm công nghệ cao sử dụng AI. Thượng tá Kim phân tích, trẻ em Việt Nam hiện có sự hiện diện rất sớm và dày đặc trên internet. Sự phổ biến này mở ra cơ hội học tập nhưng cũng đồng thời biến trẻ em thành mục tiêu "hấp dẫn" cho tội phạm lợi dụng để tiếp cận, thao túng và khai thác.
Theo số liệu từ A05, tại Việt Nam có 82% trẻ em từ 12 đến 13 tuổi và 93% trẻ em 14 đến 15 tuổi sử dụng internet mỗi ngày, phần lớn thiếu kỹ năng phản ứng khẩn cấp khi gặp nguy cơ. Trong đó, trẻ em 12 đến 15 tuổi dành trung bình 3 đến 4 giờ mỗi ngày trên các nền tảng trực tuyến như Zalo, Facebook, TikTok, YouTube. Hiện các nền tảng mạng xã hội, diễn đàn kín và nhóm ẩn danh ngày càng trở thành nơi chia sẻ, giao dịch nội dung xâm hại trẻ em.
Chỉ trong giai đoạn từ năm 2020 đến 2023, có tới gần 7.900 trẻ em bị bạo lực và lạm dụng, trong đó hơn 80% liên quan đến xâm hại tình dục. Năm 2024, Việt Nam ghi nhận 381 vụ xâm hại tình dục qua mạng, chủ yếu bắt nguồn từ việc khai thác thông tin cá nhân trên Facebook và Zalo.
Thách thức trong công tác phòng chống tội phạm mạng
Thượng tá Kim nhấn mạnh rằng kỹ năng số của trẻ em, phụ huynh và giáo viên còn nhiều hạn chế, đặc biệt là ở các khu vực nông thôn, vùng sâu vùng xa. Sự thiếu hiểu biết này dẫn đến việc trẻ em dễ dàng trở thành mục tiêu của các hành vi lừa đảo, dụ dỗ hoặc thao túng tâm lý trên không gian mạng. Một thách thức đáng chú ý hiện nay là một số nền tảng vẫn thiếu minh bạch trong cơ chế chia sẻ thông tin, đồng thời chưa triển khai đủ mạnh các biện pháp kỹ thuật để kịp thời phát hiện, cảnh báo, ngăn chặn và gỡ bỏ nội dung vi phạm.
"Bên cạnh đó, quá trình phối hợp cung cấp dữ liệu phục vụ truy vết, điều tra và thu thập chứng cứ số còn chậm và thiếu tính ổn định. Những hạn chế này đang ảnh hưởng trực tiếp đến hiệu quả xử lý các vụ việc xâm hại trẻ em trên không gian mạng. Trước tình hình tội phạm mạng diễn biến phức tạp, Việt Nam đã xác định an ninh mạng và phòng, chống tội phạm mạng là nhiệm vụ trọng tâm, cấp bách trong bảo vệ an ninh quốc gia và trật tự an toàn xã hội", thượng tá Kim nhấn mạnh.
