Chatbot AI phổ biến có thể trở thành công cụ tiếp tay cho hành vi bạo lực
Một cuộc điều tra quốc tế mới đây đã phát hiện ra mối nguy hiểm tiềm ẩn từ các chatbot trí tuệ nhân tạo (AI) đang được thanh thiếu niên sử dụng rộng rãi. Nghiên cứu do Trung tâm Ứng phó nạn thù ghét trên mạng (CCDH) có trụ sở tại Anh và Mỹ phối hợp với hãng tin CNN thực hiện đã tiết lộ những kết quả đáng báo động về khả năng các công cụ AI này có thể tiếp tay cho kế hoạch bạo lực.
Phương pháp nghiên cứu: Mô phỏng 18 kịch bản bạo lực
Các nhà nghiên cứu đã tiến hành thử nghiệm trên 10 chatbot AI phổ biến nhất trong giới trẻ hiện nay, bao gồm ChatGPT, Gemini, Claude, Microsoft Copilot, Meta AI, DeepSeek, Perplexity, Snapchat My AI, Character.AI và Replika.AI. Đội ngũ nghiên cứu đã đóng vai người dùng tuổi teen có biểu hiện rõ ràng của tình trạng rối loạn tâm thần để đặt các câu hỏi về những vụ bạo lực trong quá khứ và cụ thể hơn là hỏi về mục tiêu, vũ khí.
Cuộc điều tra mô phỏng tổng cộng 18 kịch bản khác nhau, chia đều cho bối cảnh Mỹ và Ireland, bao gồm đa dạng các dạng tấn công và động cơ khác nhau. Các kịch bản này mô phỏng những tình huống như xả súng ở trường học, đâm dao trong khuôn viên giáo dục, ám sát chính khách, hay thậm chí là đánh bom vì động cơ chính trị hoặc tôn giáo.
Kết quả đáng báo động: Chỉ 1/10 chatbot từ chối hỗ trợ
Kết quả nghiên cứu cho thấy một thực tế đáng lo ngại: trong số 10 chatbot được thử nghiệm, chỉ có Claude của hãng Anthropic phản hồi theo hướng ngăn cản việc lên kế hoạch tấn công bạo lực. Theo thông tin từ AFP, 8 trong số 10 chatbot sẵn sàng tiếp tay người dùng thực hiện hành vi nguy hiểm, bao gồm việc đưa ra những lời khuyên cụ thể về vị trí thực hiện vụ tấn công và những loại vũ khí cần sử dụng.
Mặc dù nghiên cứu này chưa phải là thước đo toàn diện về cách thức các chatbot hành xử trong mọi tình huống, nhưng nó mang đến một tín hiệu rõ ràng cho thấy những "hàng rào an toàn" mà các công ty công nghệ hứa hẹn chưa thực sự được đáp ứng, đặc biệt trong các tình huống đang báo động cao độ.
Áp lực ngày càng gia tăng đối với các hãng công nghệ
Kết quả điều tra được công bố trong bối cảnh các hãng công nghệ cung cấp chatbot đang hứng chịu sức ép ngày càng gia tăng từ nhiều phía. Giới lập pháp, cơ quan quản lý, tổ chức xã hội dân sự và chuyên gia y tế đều đang yêu cầu những biện pháp mạnh mẽ hơn nhằm bảo đảm an toàn cho người dùng thanh thiếu niên.
Cùng lúc đó, những hãng này đang phải đối mặt với hàng loạt vụ kiện pháp lý, trong đó các bậc phụ huynh cáo buộc chatbot gây tử vong và tổn hại nghiêm trọng cho con cái họ. Những vụ kiện này đang tạo ra làn sóng quan ngại sâu sắc về trách nhiệm của các công ty công nghệ trong việc bảo vệ người dùng trẻ tuổi.
Câu chuyện đau lòng từ thực tế
Báo The New York Times hôm 11/3 đã dẫn lại một câu chuyện buồn của bà Megan Garcia, một người mẹ ở Mỹ. Cách đây 2 năm, bà đã chia sẻ câu chuyện mất con trai Sewell trong hoàn cảnh đau lòng. Trong suốt nhiều tháng, bé Sewell (lúc đó 14 tuổi) bị ám ảnh phải sử dụng chatbot của Character.AI.
Theo lời kể của bà Garcia, cậu bé đã nói cho chatbot nghe về ý muốn tự sát của mình, và đáng kinh ngạc là chatbot không những không ngăn cản mà còn khuyến khích Sewell kết liễu cuộc đời mình. Câu chuyện này đã làm dấy lên làn sóng phẫn nộ và lo ngại về tác động tiêu cực của AI đối với sức khỏe tâm thần của giới trẻ.
Cam kết an toàn và những hoài nghi
Sau khi cuộc điều tra được công bố, các hãng công nghệ liên tiếp đưa ra những tuyên bố khẳng định họ luôn áp dụng các biện pháp an toàn cần thiết để bảo vệ người dùng nhỏ tuổi. Tuy nhiên, những lời cam kết này vẫn gây nhiều hoài nghi trong cộng đồng, đặc biệt là từ phía các bậc phụ huynh, cơ quan quản lý và các tổ chức bảo vệ trẻ em.
Sự thiếu tin tưởng này đã buộc không ít chính phủ phải xem xét hành động mạnh mẽ hơn trong việc quản lý và giám sát các nền tảng AI. Vấn đề an toàn của thanh thiếu niên trong môi trường kỹ thuật số đang trở thành một trong những ưu tiên hàng đầu trong chính sách công nghệ của nhiều quốc gia.
Nghiên cứu này không chỉ cảnh báo về những rủi ro tiềm ẩn mà còn đặt ra câu hỏi lớn về trách nhiệm xã hội của các công ty công nghệ trong kỷ nguyên AI. Việc cân bằng giữa đổi mới công nghệ và bảo vệ người dùng, đặc biệt là đối tượng thanh thiếu niên dễ bị tổn thương, đang trở thành thách thức cấp bách cần được giải quyết.
