Anthropic, công ty phát triển công cụ trí tuệ nhân tạo Claude, cho rằng thế giới sẽ được hưởng lợi nếu có thể lựa chọn làm chậm lại hoặc tạm ngừng hoạt động phát triển các hệ thống AI tiên tiến nhất. Theo họ, điều này sẽ tạo điều kiện cho các cấu trúc xã hội và nghiên cứu điều chỉnh có thể theo kịp tiến bộ của công nghệ.
Phát hiện đáng quan ngại trong quá trình phát triển AI
Anthropic đã phát hiện những diễn biến đáng lo ngại trong quá trình phát triển trí tuệ nhân tạo. Để đạt được trạng thái tạm ngừng thực sự, công ty cho rằng mọi tập đoàn AI lớn ở nhiều quốc gia, đặc biệt là Mỹ và Trung Quốc, đều phải đạt được sự đồng thuận dựa trên những quy tắc có thể kiểm chứng bởi tất cả các bên.
Cơ chế phối hợp toàn cầu là cần thiết
Anthropic chỉ ra rằng nếu thiếu cơ chế phối hợp toàn cầu, các công ty và chính phủ sẽ buộc phải đưa ra những quyết định khó khăn về vấn đề an toàn trong bối cảnh áp lực cạnh tranh và địa chính trị. Công ty thậm chí còn so sánh thách thức về AI với các hiệp ước kiểm soát vũ khí hạt nhân, nhưng nhấn mạnh rằng mức độ khó khăn trong quản lý AI còn lớn hơn nhiều.
Nguyên nhân là do quá trình đào tạo AI diễn ra âm thầm và dễ dàng hơn hẳn so với việc che giấu hầm chứa tên lửa. Dữ liệu nội bộ của Anthropic cho thấy AI đã đẩy nhanh đáng kể tốc độ phát triển của chính nó, tạo ra những rủi ro tiềm ẩn.
Kế hoạch hành động trong tương lai
Anthropic lên kế hoạch mời gọi sự tham gia từ quan chức các chính phủ, giới khoa học, các tổ chức vận động và những hãng AI đối thủ trong những tháng tới. Mục tiêu là vạch ra một kế hoạch có thể thực hiện được để đảm bảo an toàn và phát triển bền vững của trí tuệ nhân tạo.
