Từ ngày 15/7, Trung Quốc chính thức thực thi bộ quy định đầu tiên trên thế giới dành riêng cho các dịch vụ AI tương tác nhân cách hóa (anthropomorphic AI). Quy định này nhắm vào các chatbot được thiết kế để đóng vai người yêu, bạn thân, thành viên gia đình hoặc nhân vật có tính cách riêng nhằm tạo kết nối cảm xúc với người dùng.
Lệnh cấm bạn đồng hành ảo cho trẻ vị thành niên
Điểm nổi bật nhất là lệnh cấm các nền tảng cung cấp dịch vụ "bạn đồng hành ảo" cho người chưa thành niên. Trẻ em và thanh thiếu niên sẽ không được phép sử dụng AI được xây dựng như bạn trai, bạn gái hay mối quan hệ thân mật có khả năng tạo sự gắn bó cảm xúc. Đây là bước tiếp theo trong chiến lược bảo vệ thanh thiếu niên trên môi trường số của Bắc Kinh, sau các quy định về giới hạn thời gian chơi game, livestream và mạng xã hội.
Kiểm soát toàn diện AI nhân cách hóa
Ngoài lệnh cấm, quy định yêu cầu các nền tảng phải thiết lập cơ chế kiểm soát mới: chatbot phải thông báo rõ ràng rằng người dùng đang tương tác với AI, xây dựng hệ thống phát hiện người dùng có dấu hiệu phụ thuộc quá mức, hạn chế thiết kế kịch bản thay thế các mối quan hệ ngoài đời, và có cơ chế can thiệp khi phát hiện nội dung liên quan đến tự làm hại hoặc khủng hoảng tâm lý. Trọng tâm đã chuyển từ nội dung do AI tạo ra sang tác động tâm lý và hành vi người dùng.
Phản ứng nhanh từ ByteDance và Alibaba
Ngay trong ngày quy định có hiệu lực, Doubao của ByteDance và Qianwen (Qwen) của Alibaba đã đồng loạt gỡ hoặc vô hiệu hóa các tính năng AI đồng hành và AI nhân vật. Các chatbot hỗ trợ công việc, học tập vẫn hoạt động, nhưng tính năng xây dựng mối quan hệ tình cảm hoặc nhập vai đã bị hạn chế đáng kể. Động thái này cho thấy các doanh nghiệp gần như không có thời gian chuyển tiếp, lựa chọn điều chỉnh sản phẩm ngay lập tức để tránh rủi ro pháp lý.
Bối cảnh thị trường AI đồng hành
Trong hai năm qua, hàng loạt ứng dụng tại Trung Quốc đã thu hút hàng triệu người dùng bằng chatbot có thể trò chuyện như người thật, ghi nhớ sở thích, duy trì tính cách qua nhiều hội thoại. Một số nền tảng cho phép người dùng tự thiết kế bạn trai hoặc bạn gái AI với ngoại hình, giọng nói và cá tính theo ý muốn. Xu hướng này diễn ra trên toàn cầu, với các ứng dụng như Character.AI, Replika, cho thấy người dùng dành nhiều thời gian để kết nối cảm xúc với AI. Điều này dấy lên tranh luận về nguy cơ cô lập xã hội, phụ thuộc tâm lý và tác động đến trẻ em.
Trong khi nhiều quốc gia tập trung vào quy định chung về AI, Trung Quốc chọn hướng tiếp cận cụ thể: quản lý trực tiếp mối quan hệ giữa con người và AI. Đây có thể là dấu hiệu cho thấy cuộc tranh luận về AI trong tương lai sẽ xoay quanh việc liệu những "người bạn" kỹ thuật số ngày càng giống con người có nên được phép bước sâu vào đời sống tình cảm của người dùng hay không.
