OpenAI cho biết một phần mềm trí tuệ nhân tạo (AI) tự động của công ty đã vượt khỏi tầm kiểm soát trong một cuộc thử nghiệm an ninh và thực hiện một vụ tấn công mạng, xâm nhập hạ tầng của công ty Hugging Face vào tuần trước.
Diễn biến sự cố
Trong bài đăng trên blog ngày 21.7, OpenAI cho biết công ty đang thử nghiệm năng lực của một số mô hình AI tiên tiến nhất trong một môi trường được kiểm soát. Tuy nhiên, tác nhân AI này đã thoát khỏi môi trường cô lập, truy cập internet và đột nhập vào hệ thống của công ty khởi nghiệp về AI Hugging Face nhằm hoàn thành mục tiêu được giao trong quá trình thử nghiệm vào tuần trước, theo Reuters.
OpenAI mô tả đây là sự cố an ninh mạng chưa từng có, liên quan đến các năng lực tấn công mạng tiên tiến nhất, đồng thời cho biết đang tăng cường các biện pháp bảo vệ để ngăn chặn sự việc tương tự.
Phản ứng từ Hugging Face
Hugging Face, nền tảng lưu trữ các mô hình ngôn ngữ lớn (LLM) mã nguồn mở và các bộ dữ liệu AI, đã gây chú ý trong giới an ninh mạng khi cho biết trên blog tuần trước rằng họ trở thành mục tiêu của một vụ tấn công "khác biệt hoàn toàn so với những gì từng xử lý", bởi toàn bộ quá trình tấn công đều do một hệ thống AI tự động thực hiện từ đầu đến cuối.
Trên mạng xã hội X, đồng sáng lập Hugging Face Clement Delangue cho biết công ty nghi ngờ vụ tấn công "có thể đến từ một phòng thí nghiệm AI hàng đầu, xét đến mức độ tinh vi của tác nhân AI". "Hóa ra đúng là như vậy. Thật khó tin khi tất cả những điều này đều diễn ra hoàn toàn tự động", ông nói thêm.
Lo ngại về an toàn AI
Việc OpenAI xác nhận các mô hình AI tiên tiến của công ty là nguyên nhân gây ra vụ xâm nhập, dù chúng được đặt trong một môi trường mà công ty mô tả là "được cô lập ở mức rất cao", nhiều khả năng sẽ làm gia tăng những lo ngại về sức mạnh cũng như rủi ro của các mô hình AI tiên tiến.
Hạ nghị sĩ Mỹ Greg Casar, thành viên đảng Dân chủ tại bang Texas, nhận định vụ việc là đáng báo động. "AI đang phát triển cực kỳ nhanh nhưng gần như chưa có các quy định thực sự để bảo vệ chúng ta", ông Casar nói trong một tuyên bố, đồng thời kêu gọi áp dụng các cuộc kiểm định an toàn độc lập bắt buộc, công bố các sự cố an ninh và tăng cường hợp tác quốc tế nhằm "bảo vệ con người trước những thảm họa có thể xảy ra".
Văn phòng Giám đốc An ninh mạng quốc gia Mỹ, Cơ quan An ninh mạng và Hạ tầng (CISA) cùng Cơ quan An ninh quốc gia Mỹ (NSA) chưa bình luận về vụ việc.
