Trong một bài blog đăng ngày 4/6, công ty công nghệ Anthropic, đơn vị phát triển chatbot Claude, đã kêu gọi các tập đoàn AI hàng đầu thế giới cùng nhau tạm dừng hoặc làm chậm quá trình phát triển các hệ thống trí tuệ nhân tạo tiên tiến. Lý do được đưa ra là những hệ thống này có thể vượt ra khỏi tầm kiểm soát của con người, gây ra những hậu quả khó lường.
Nguy cơ AI tự cải thiện
Anthropic cho rằng việc làm chậm lại hoặc tạm dừng phát triển AI tiên tiến trên toàn thế giới “có thể là điều tốt”. Tuy nhiên, công ty cũng cảnh báo rằng nếu chỉ một đơn vị dừng lại, các đối thủ cạnh tranh sẽ tiếp tục tiến về phía trước, khiến nỗ lực này trở nên vô ích. “Chúng tôi tin rằng thế giới nên có lựa chọn làm chậm hoặc tạm dừng tạm thời việc phát triển AI tiên tiến để các cấu trúc xã hội và nghiên cứu về sự an toàn AI có thể theo kịp tốc độ phát triển của công nghệ”, thông báo từ Anthropic nhấn mạnh.
Điều khiến Anthropic lo ngại nhất là kịch bản “recursive self-improvement”, tức khả năng AI tự thiết kế, xây dựng và huấn luyện phiên bản kế tiếp của chính mình mà không cần sự can thiệp của con người. Bài đăng có chữ ký của hai tác giả Jack Clark và Marina Favaro, lãnh đạo viện nghiên cứu nội bộ của Anthropic, tiết lộ rằng hơn 80% mã code được đưa vào hệ thống của công ty hiện do Claude viết. Các kỹ sư đang hoàn thiện lượng code nhiều hơn gấp khoảng 8 lần mỗi quý so với trước năm 2025.
Thực trạng và thách thức
Đây không chỉ là cảnh báo trên lý thuyết. Công ty đứng sau chatbot Claude cho rằng với đủ sức mạnh tính toán và theo tốc độ phát triển hiện tại, một hệ thống AI có thể tự thiết kế và phát triển phiên bản kế nhiệm của chính nó. Cột mốc này sẽ mang lại lợi ích lớn trong khoa học và y tế, nhưng đồng thời làm tăng nguy cơ vượt tầm kiểm soát của con người.
Để một lệnh tạm dừng có hiệu quả thực sự, cần có sự đồng thuận từ nhiều công ty AI lớn ở nhiều quốc gia, đặc biệt là Mỹ và Trung Quốc. Anthropic cho biết viện nghiên cứu nội bộ sẽ khám phá vấn đề này cùng với các bên khác và thực hiện nhiều hành động để giúp xây dựng cơ chế cho một tái cấu trúc toàn diện.
Nghịch lý giữa an toàn và thương mại
Lời kêu gọi này xuất hiện đúng lúc Anthropic đang chuẩn bị IPO, thương vụ có thể định giá công ty gần 1.000 tỷ USD. Sự kết hợp giữa cảnh báo về an toàn AI và tham vọng thị trường chứng khoán tạo ra một nghịch lý đáng chú ý. Đây không phải lần đầu một ông lớn trong lĩnh vực AI kêu gọi tạm dừng. Năm 2023, một nhóm gồm Elon Musk và nhiều nhà nghiên cứu AI đã ký thư kêu gọi dừng phát triển 6 tháng nhưng không có kết quả thực tế.
Trong bối cảnh đó, những câu hỏi về tương lai của AI ngày càng trở nên cấp thiết. Cuốn sách “Thời đại AI - Và tương lai loài người” trình bày cách AI làm thay đổi mối quan hệ của chúng ta với tri thức, chính trị và xã hội. Mục tiêu tối thượng của cuốn sách này là giải thích về AI và cung cấp cho độc giả những câu hỏi mà chúng ta sẽ phải đối mặt trong những năm tới, cùng bộ công cụ để bắt đầu trả lời chúng.
Các bài viết liên quan gần đây cũng phản ánh những tác động sâu rộng của AI. Anthropic đã đảo ngược quy trình đánh giá khi Claude phân tích lịch sử trò chuyện của người dùng để chấm điểm “trình độ” sử dụng AI. Nhóm tác động xã hội của Claude cũng chủ động tìm kiếm và công bố những điều bất lợi về sản phẩm của chính họ, điều mà không ai trong ngành AI dám làm. Một nhà phát triển đã đốt hết số token trị giá 6.000 USD trong Claude Code chỉ sau một đêm do quên tắt công cụ lập trình AI này.
