YouTube đã chính thức mở rộng chương trình thí điểm công nghệ phát hiện nội dung deepfake được tạo bởi trí tuệ nhân tạo (AI) đến một nhóm đối tượng đặc biệt, bao gồm các quan chức chính phủ, ứng cử viên chính trị và nhà báo. Động thái này nhằm tăng cường bảo vệ sự toàn vẹn của thông tin công khai, trong bối cảnh deepfake AI ngày càng bị lạm dụng để lan truyền thông tin sai lệch và thao túng nhận thức cộng đồng.
Chi tiết về chương trình thí điểm phát hiện deepfake AI
Chương trình thí điểm mới cho phép những người tham gia truy cập vào công cụ phát hiện nội dung AI giả mạo trái phép và chủ động yêu cầu gỡ bỏ nếu họ tin rằng nó vi phạm chính sách của nền tảng. Công nghệ này đã được triển khai từ năm ngoái cho khoảng 4 triệu nhà sáng tạo thuộc Chương trình Đối tác YouTube, sau các giai đoạn thử nghiệm ban đầu.
Tương tự như hệ thống Content ID hiện có của YouTube dùng để phát hiện tài liệu có bản quyền, tính năng phát hiện chân dung này tập trung tìm kiếm các khuôn mặt được mô phỏng bằng công cụ AI. Các công cụ deepfake thường bị lạm dụng để tạo ra hình ảnh giả mạo của những nhân vật nổi bật như chính trị gia, nhằm mô phỏng các hành động hoặc lời nói mà họ không thực hiện trong đời thực, gây ảnh hưởng tiêu cực đến uy tín và an ninh thông tin.
Quy trình xác minh và đánh giá yêu cầu gỡ bỏ
Để sử dụng công cụ mới, những người thử nghiệm đủ điều kiện phải trải qua quy trình xác minh danh tính nghiêm ngặt, bằng cách tải lên ảnh tự chụp và giấy tờ tùy thân do chính phủ cấp. Sau khi xác minh, họ có thể tạo hồ sơ, xem các nội dung trùng khớp được phát hiện và tùy chọn yêu cầu gỡ bỏ.
Tuy nhiên, không phải tất cả các yêu cầu gỡ bỏ đều sẽ được chấp thuận tự động. YouTube sẽ đánh giá từng yêu cầu dựa trên các nguyên tắc chính sách quyền riêng tư hiện có, để xác định xem nội dung đó có phải là nhại lại (parody) hoặc phê bình chính trị hay không – những hình thức tự do ngôn luận được bảo vệ theo quy định.
Mục tiêu cân bằng giữa tự do ngôn luận và rủi ro AI
Bà Leslie Miller, Phó Chủ tịch phụ trách các vấn đề chính phủ và chính sách công của YouTube, chia sẻ trong một buổi họp báo: “Việc mở rộng này thực sự hướng đến sự toàn vẹn của cuộc đối thoại công khai. Chúng tôi biết rằng rủi ro giả mạo bằng AI đặc biệt cao đối với những người trong không gian dân sự.”
YouTube đặt mục tiêu cân bằng giữa quyền tự do ngôn luận của người dùng và những rủi ro liên quan đến công nghệ AI có thể tạo ra hình ảnh giống như thật của một nhân vật công chúng. Công ty cũng đang ủng hộ Đạo luật NO FAKES tại Washington D.C., một dự luật liên bang nhằm điều chỉnh việc sử dụng AI để tạo ra các bản sao giọng nói và hình ảnh trái phép của cá nhân.
Kế hoạch mở rộng và nhãn hiển thị nội dung AI
YouTube cho biết họ có kế hoạch cuối cùng sẽ cung cấp cho người dùng khả năng ngăn chặn việc tải lên nội dung vi phạm trước khi chúng công khai, hoặc thậm chí cho phép họ kiếm tiền từ những video đó, tương tự cách hệ thống Content ID hoạt động. Trong tương lai, nền tảng này dự định mở rộng công nghệ phát hiện deepfake sang nhiều lĩnh vực hơn, bao gồm cả giọng nói dễ nhận biết và các tài sản trí tuệ khác như các nhân vật nổi tiếng.
Các video được tạo bằng AI sẽ được gắn nhãn tương ứng, tuy nhiên vị trí của các nhãn này không nhất quán. Đối với một số video, nhãn xuất hiện trong phần mô tả, trong khi các video tập trung vào “chủ đề nhạy cảm” hơn sẽ có nhãn hiển thị ở đầu video. Ông Amjad Hanif, Phó Chủ tịch Sản phẩm dành cho Nhà sáng tạo của YouTube, giải thích rằng sự khác biệt này phụ thuộc vào việc nội dung đó có thực sự cần một tuyên bố miễn trừ trách nhiệm rõ ràng hay không.
Hiệu quả ban đầu và triển vọng tương lai
YouTube hiện chưa chia sẻ số lượng deepfake AI đã được gỡ bỏ thông qua công nghệ phát hiện này trong tay các nhà sáng tạo, nhưng lưu ý rằng số lượng nội dung bị gỡ bỏ cho đến nay là “rất nhỏ”. Ông Hanif cho biết, đối với nhiều nhà sáng tạo, việc này chủ yếu là để nhận thức về những gì đang được tạo ra, nhưng số lượng yêu cầu gỡ bỏ thực tế rất thấp vì hầu hết chúng đều khá lành tính hoặc có lợi cho hoạt động kinh doanh của họ.
Tuy nhiên, điều này có thể sẽ khác khi áp dụng cho deepfake của các quan chức chính phủ, chính trị gia hoặc nhà báo – những đối tượng dễ bị tổn thương hơn trước các cuộc tấn công thông tin sai lệch. Với việc triển khai chương trình thí điểm, YouTube kỳ vọng sẽ thiết lập một tiêu chuẩn mới trong việc bảo vệ tính toàn vẹn thông tin và ứng phó với các mối đe dọa từ công nghệ AI tiên tiến.
