Hơn 1.100 nhân sự đến từ các công ty công nghệ hàng đầu như OpenAI, Meta, Google và Anthropic đã kêu gọi Chính phủ Mỹ ủng hộ một sáng kiến quốc tế nhằm xây dựng các công cụ kỹ thuật và cơ chế quản trị để bảo đảm các hệ thống AI tiên tiến luôn trong tầm kiểm soát. Sáng kiến mang tên "Kiểm soát Ranh giới AI" (AI Control Frontier) quy tụ các nhà nghiên cứu và kỹ sư từ nhiều doanh nghiệp AI hàng đầu, cùng sự hỗ trợ của các tổ chức phi lợi nhuận.
Lời kêu gọi từ các chuyên gia hàng đầu
Theo Reuters, những người ký tên gồm Dario Amodei, Giám đốc điều hành Anthropic; Dawn Song, Phó chủ tịch phụ trách nghiên cứu AI của Meta; và Jakub Pachocki, Nhà khoa học trưởng của OpenAI. Trong tuyên bố chung, nhóm nhấn mạnh cần phát triển các công cụ kỹ thuật và cơ chế quản trị đủ năng lực để chủ động kiểm soát sự phát triển của các hệ thống AI tự động. Họ cho rằng tốc độ phát triển các mô hình AI có thể sớm đạt đến mức buộc thế giới phải điều chỉnh nhịp độ phát triển nhằm bảo đảm an toàn.
Phản hồi từ các công ty AI
Đáp lại lời kêu gọi, OpenAI cho biết trên mạng xã hội X rằng tốc độ phát triển các mô hình AI có thể sớm đạt đến mức buộc thế giới phải điều chỉnh nhịp độ phát triển nhằm bảo đảm an toàn. Anthropic cũng đưa ra cảnh báo tương tự, dẫn nghiên cứu công bố tháng trước cho rằng AI có thể sớm đạt khả năng tự cải thiện theo cấp số nhân, đòi hỏi các công cụ quản trị phải được xây dựng trước khi con người mất khả năng theo kịp. Anthropic, đơn vị phát triển công cụ lập trình Claude Code, trước đó đã kêu gọi các phòng thí nghiệm AI lớn cùng giảm tốc độ phát triển các mô hình tiên tiến do lo ngại năng lực tự cải thiện của AI sẽ sớm vượt quá khả năng quản lý rủi ro của con người.
Bối cảnh gia tăng đầu tư vào an toàn AI
Lời kêu gọi được đưa ra trong bối cảnh các doanh nghiệp công nghệ gia tăng đầu tư vào an toàn AI. Nvidia mới đây đã thành lập liên minh với Adobe, CrowdStrike và nhiều đối tác khác để phát triển các công cụ bảo mật dành cho AI sau sự cố an ninh mạng liên quan đến Hugging Face. Các chuyên gia nhấn mạnh rằng việc xây dựng cơ chế quản trị quốc tế là cấp thiết để tránh những hậu quả không thể đảo ngược từ AI siêu thông minh.
