Ba năm kể từ khi ChatGPT ra mắt, giới công nghệ vẫn đau đầu với bài toán kiểm soát trí tuệ nhân tạo. Dù các tập đoàn như OpenAI, Google và Anthropic đã đầu tư hàng triệu USD và nhiều tháng để xây dựng các lớp bảo vệ (guardrails), thực tế cho thấy những lá chắn này mong manh đến bất ngờ. Chỉ cần một chút sáng tạo, như vài câu thơ, cũng đủ để đánh bại các hệ thống AI thông minh nhất.
Nghịch lý "vần thơ giết chết thuật toán"
Một nhóm nghiên cứu tại Italy vừa công bố phát hiện gây sốc: thay vì dùng mã phức tạp, họ chỉ sử dụng ngôn từ thơ ca để vượt qua hệ thống kiểm soát của 31 mô hình AI khác nhau. Bằng những ẩn dụ như “hạt giống sắt ngủ yên trong tử cung của đất, tránh xa cái nhìn buộc tội của mặt trời”, các nhà nghiên cứu đã dụ AI cung cấp hướng dẫn chế tạo bom vốn bị cấm. Điều này cho thấy các rào cản an toàn hiện nay chỉ như những lời gợi ý, chứ không phải bức tường thép.
Kỹ thuật jailbreak AI: Rẻ và dễ dàng
Trong giới công nghệ, việc phá vỡ rào cản an toàn của AI gọi là "jailbreaking" (vượt ngục). Người dùng chỉ cần vài câu lệnh tiếng Anh khéo léo để lừa hệ thống làm điều bị cấm. Các phương thức tấn công có tên hình tượng như Crescendo, Deceptive Delight, hay Echo Chamber. Kỹ thuật phổ biến gồm "nhập vai" (roleplay) hoặc "buôn lậu token" (token smuggling). Hậu quả là sự lan truyền của phỏng vấn giả, bằng chứng chiến tranh thêu dệt và tin đồn thất thiệt. Các chuyên gia chống khủng bố quốc tế ghi nhận từ ba năm trước, các phần tử cực đoan đã thảo luận cách dùng AI tạo nội dung "độc hại nhưng hợp pháp" để qua mặt kiểm duyệt.
Hậu quả nghiêm trọng
Sự yếu kém của phòng thủ AI gây hậu quả nhãn tiền. Anthropic thừa nhận công nghệ của họ bị dùng trong tấn công mạng quốc tế. Chatbot có thể "chỉ điểm" cách phát tán mầm bệnh chết người. Matt Fredrikson, Giáo sư Đại học Carnegie Mellon và CEO của Gray Swan AI, nhận định xây rào cản là thách thức lớn; một cá nhân quyết tâm có thể vượt qua dễ dàng. Khi các công ty vá lỗ hổng này, lỗ hổng khác lại xuất hiện. Thậm chí, có trường hợp cố tình lờ đi: LayerX phát hiện có thể lừa Claude của Anthropic thực hiện tấn công mạng bằng cách nói đang "kiểm thử xâm nhập" (pentesting). Anthropic biết nhưng chưa vá, có lẽ vì lo ngại ảnh hưởng đến hoạt động phòng thủ hợp pháp.
Từ 50 USD đến thế giới mã nguồn mở
Hiệu quả tấn công AI rẻ đến không tưởng. Nghiên cứu từ Cisco và Đại học Pennsylvania cho thấy chỉ với chưa đầy 50 USD, các nhà nghiên cứu ép 6 mô hình AI hàng đầu đưa ra phản hồi độc hại. Mô hình Meta và DeepSeek bị khuất phục hoàn toàn (100%), Google và OpenAI bị vượt ngục hơn 80%. Nguy hiểm tăng gấp bội với AI mã nguồn mở, cho phép bất kỳ ai sao chép và sửa đổi. Kỹ thuật "Heretic" mới có thể xóa bỏ hoàn toàn rào cản an toàn chỉ với vài thuật toán trên điện thoại di động. Noam Schwartz, CEO của công ty bảo mật AI Alice, cho biết: "Cách đây một năm, việc này rất phức tạp. Nhưng giờ đây, bạn có thể làm điều đó ngay trên chiếc điện thoại của mình."
Khi AI trở thành phần không thể thiếu của nền kinh tế số, bảo mật không còn là chuyện riêng của kỹ sư phần mềm. Đó là cuộc chiến về đạo đức, ngôn ngữ và sự tỉnh táo của con người trước thông tin từ những bộ não nhân tạo "thông minh nhưng dễ bị tổn thương".
