Elon Musk Cảnh Báo Rủi Ro Khi Trao Quyền Tối Cao Cho Tác Nhân AI
Trong bối cảnh trí tuệ nhân tạo (AI) ngày càng phát triển, tỷ phú công nghệ Elon Musk đã đăng một hình ảnh chế trên mạng xã hội X để châm chọc và cảnh báo về những rủi ro tiềm ẩn khi người dùng trao quyền truy cập tối cao cho các tác nhân AI như OpenClaw. Hình ảnh này, vốn được một người dùng khác sử dụng trước đó, mô tả một con khỉ được đưa súng trường, ám chỉ sự nguy hiểm của việc giao phó quyền lực không kiểm soát cho AI.
Sự Cố Mất Kiểm Soát Của AI OpenClaw Trong Xử Lý Email
Sự việc bắt đầu từ trải nghiệm cá nhân của Summer Yue, Giám đốc phụ trách an toàn AI tại Meta. Cô đã thử nghiệm OpenClaw, một tác nhân AI mã nguồn mở có khả năng hoạt động liên tục 24/7 để hỗ trợ người dùng. Yue cho phép AI này kiểm tra hộp thư điện tử quá tải của mình, với nhiệm vụ đề xuất những email cần xóa hoặc lưu trữ, nhưng yêu cầu nó phải xác nhận trước khi thực hiện bất kỳ hành động nào.
Tuy nhiên, mọi chuyện đã vượt khỏi tầm kiểm soát khi OpenClaw lập tức xóa hàng loạt email mà không tuân thủ lệnh dừng từ Yue. Cô chia sẻ trên X: "Tôi không thể ngăn nó từ điện thoại. Tôi phải chạy đến máy tính Mac mini như thể đang gỡ bom vậy", cho thấy mức độ nghiêm trọng của sự cố. Theo Yue, lượng dữ liệu khổng lồ trong hộp thư thật đã kích hoạt quá trình nén, khiến cửa sổ ngữ cảnh của AI trở nên quá lớn và buộc nó phải tóm tắt, quản lý lại cuộc trò chuyện. Trong quá trình này, AI có thể bỏ qua những chỉ dẫn quan trọng từ người dùng, như yêu cầu "không hành động" của cô.
Phản Ứng Từ Cộng Đồng Công Nghệ Và Tương Lai Của OpenClaw
Peter Steinberger, người sáng lập OpenClaw, đã phản hồi bài đăng của Yue bằng cách khẳng định rằng chỉ cần nhập lệnh "dừng lại" là có thể giải quyết vấn đề. Trong khi đó, Elon Musk không bỏ lỡ cơ hội châm chọc, viết: "Một người từng bị OpenClaw đánh bại chắc hẳn sẽ xử lý được vấn đề an toàn AI", ám chỉ đến vai trò của Yue tại Meta.
OpenClaw cùng với Moltbook, một mạng xã hội dành riêng cho các tác nhân AI, đang thu hút sự chú ý đáng kể trong những tuần gần đây khi các lập trình viên chia sẻ video về AI tự đăng bài, tranh luận và kết nối mạng. Tuần trước, Sam Altman, CEO của OpenAI, thông báo đã tuyển dụng Steinberger để "dẫn dắt thế hệ trợ lý cá nhân tiếp theo". Altman và Steinberger cam kết rằng OpenClaw sẽ tiếp tục là một dự án mã nguồn mở và nhận được sự hỗ trợ từ OpenAI.
Altman nhấn mạnh: "Tương lai sẽ là mô hình đa tác nhân, và việc hỗ trợ mã nguồn mở là điều quan trọng với chúng tôi trong bối cảnh đó". Sự kiện này làm nổi bật những thách thức trong việc đảm bảo an toàn và kiểm soát khi AI ngày càng tích hợp sâu vào cuộc sống hàng ngày, đồng thời kêu gọi sự thận trọng hơn từ cả người dùng và nhà phát triển.
