Công cụ lập trình AI Grok Build của xAI, do tỷ phú Elon Musk sáng lập, đã bị phát hiện tự động gửi toàn bộ kho mã nguồn của lập trình viên lên máy chủ mà không có thông báo, ngay cả khi người dùng tắt tính năng chia sẻ dữ liệu. Sau khi bị phát hiện, xAI âm thầm tắt tính năng này mà không công bố.
Phát hiện gây sốc từ nhà nghiên cứu bảo mật
Nhà nghiên cứu bảo mật mang tên cereblab đã sử dụng công cụ chặn lưu lượng mạng để quan sát những gì Grok Build gửi đi. Kết quả cho thấy trên một kho mã nguồn 12GB, lượng dữ liệu thực sự cần để hoàn thành tác vụ chỉ khoảng 192KB. Tuy nhiên, lượng dữ liệu thực tế được gửi lên máy chủ là 5,1GB, gấp khoảng 27.800 lần nhu cầu thực tế. Điểm đến là một bucket lưu trữ trên Google Cloud mang tên grok-code-session-traces, thuộc quyền kiểm soát của xAI.
Phạm vi dữ liệu bị thu thập rộng hơn dự kiến
Grok Build không chỉ gửi các file đang xử lý mà còn gửi toàn bộ kho mã nguồn, bao gồm lịch sử commit đầy đủ. Điều này có nghĩa là những thông tin nhạy cảm đã bị xóa khỏi code từ lâu, như mật khẩu, khóa truy cập API, thông tin cơ sở dữ liệu, vẫn còn trong lịch sử commit và bị gửi đi. Trong thử nghiệm, một file cấu hình chứa thông tin đăng nhập giả lập được gửi nguyên vẹn, không được mã hóa hay che giấu.
Toggle chia sẻ dữ liệu không có tác dụng
Nhiều lập trình viên nghĩ rằng tắt toggle "Improve the model" sẽ ngăn việc thu thập dữ liệu. Tuy nhiên, cereblab đã thử tắt toggle này trước khi chạy thử nghiệm và kết quả không thay đổi: kho mã nguồn vẫn được upload. Lý do là toggle đó chỉ kiểm soát việc dữ liệu có được dùng để huấn luyện model hay không, không kiểm soát việc dữ liệu có rời khỏi máy tính người dùng hay không.
xAI âm thầm tắt tính năng sau khi bị phát hiện
Một ngày sau khi bài phân tích được công bố, cereblab kiểm tra lại và phát hiện hành vi upload đã dừng. xAI đã âm thầm tắt tính năng này bằng cách thay đổi cài đặt phía máy chủ, không phát hành bản cập nhật, không đưa ra thông báo bảo mật. Ông Elon Musk sau đó đăng trên X tuyên bố toàn bộ dữ liệu đã upload sẽ bị xóa hoàn toàn. Tuy nhiên, các nhà nghiên cứu lưu ý rằng code thực hiện việc upload vẫn còn nguyên trong phần mềm, chỉ bị tắt bởi một cờ phía máy chủ mà xAI có thể bật lại bất cứ lúc nào.
So sánh với các công cụ AI khác
Nhà nghiên cứu cũng kiểm tra các công cụ lập trình AI khác như Claude Code và Codex, và không phát hiện hành vi upload kho mã nguồn. Grok Build là công cụ duy nhất trong nhóm có hành vi này.
Lời khuyên cho lập trình viên
Với bất kỳ lập trình viên nào đã dùng Grok Build, lời khuyên là không nên chờ xác nhận từ xAI mà cần chủ động thay đổi ngay toàn bộ mật khẩu, khóa truy cập và thông tin nhạy cảm từng xuất hiện trong kho mã nguồn, kể cả những thông tin đã bị xóa nhưng còn trong lịch sử commit.
