Lo ngại trí tuệ nhân tạo (AI) có thể sớm phát triển nhanh hơn dự kiến, Anthropic - công ty đứng sau mô hình Claude - đề xuất xây dựng một cơ chế toàn cầu cho phép tạm thời “đạp phanh” công nghệ này khi cần thiết. Đề xuất này ngay lập tức gây ra nhiều tranh luận trong giới chuyên gia.
Viễn cảnh AI tự nâng cấp chính mình
Trong nhiều năm qua, viễn cảnh AI tự nâng cấp chính mình chủ yếu chỉ xuất hiện trong các cuộc thảo luận học thuật hoặc những kịch bản giả định về tương lai. Tuy nhiên, Anthropic cho rằng khả năng này có thể đang đến nhanh hơn nhiều so với suy nghĩ của phần lớn mọi người.
Trong báo cáo mới công bố, công ty cho biết các hệ thống AI tiên tiến không còn đơn thuần hỗ trợ con người sử dụng công nghệ mà đang bắt đầu tham gia trực tiếp vào quá trình phát triển AI. Theo Anthropic, Claude hiện có thể viết mã, sửa lỗi phần mềm, hỗ trợ nghiên cứu và thực hiện nhiều nhiệm vụ kỹ thuật vốn đòi hỏi sự tham gia của các kỹ sư. Đáng chú ý, công ty tiết lộ đến tháng 5 năm nay, hơn 80% lượng mã được tích hợp vào cơ sở mã nguồn của Anthropic do Claude viết.
Những năng lực này tạo nên một vòng phản hồi mới: AI giúp phát triển những hệ thống AI mạnh hơn, rồi những hệ thống đó tiếp tục đẩy nhanh quá trình phát triển thế hệ kế tiếp. Anthropic gọi đây là con đường dẫn tới hiện tượng “tự cải tiến đệ quy”, hiểu đơn giản là khi AI có thể tự thiết kế, xây dựng và huấn luyện những phiên bản mạnh hơn của chính nó mà không cần sự can thiệp của con người.
Theo Jack Clark, đồng sáng lập Anthropic, trong tương lai gần, mỗi phiên bản mới của Claude có thể được chính phiên bản trước đó tạo ra. Đây cũng là một trong những kịch bản được giới nghiên cứu AI đặc biệt quan tâm. Nếu tốc độ cải tiến không còn phụ thuộc hoàn toàn vào con người, năng lực AI có thể tăng trưởng nhanh hơn khả năng giám sát và kiểm soát của xã hội. Chính nguy cơ đó đã khiến Anthropic đưa ra một đề xuất gây chú ý rằng thế giới cần chuẩn bị sẵn phương án “đạp phanh” AI.
Xây dựng cơ chế tạm dừng AI toàn cầu
Mặc dù AI hiện chưa đạt tới khả năng tự cải tiến đệ quy, Anthropic cho rằng nếu AI tiếp tục phát triển theo hướng tự cải thiện, thế giới cần có khả năng làm chậm hoặc tạm thời dừng quá trình phát triển những mô hình tiên tiến nhất khi cần thiết. “Chúng tôi tin rằng sẽ tốt hơn cho thế giới nếu có lựa chọn làm chậm hoặc tạm thời dừng việc phát triển các hệ thống AI tiên tiến để các cấu trúc xã hội và nghiên cứu về an toàn AI có thể theo kịp tốc độ phát triển công nghệ”, công ty cho biết.
Anthropic nhấn mạnh họ không kêu gọi tạm dừng AI. Thay vào đó, công ty muốn các đối thủ hàng đầu trong cùng lĩnh vực có sẵn những cơ chế cho phép thực hiện việc tạm dừng. Công ty hình dung cơ chế này tương tự các thỏa thuận quốc tế về kiểm soát vũ khí hạt nhân. Các quốc gia và phòng thí nghiệm AI hàng đầu sẽ cùng thống nhất những điều kiện cụ thể để làm chậm hoặc tạm dừng phát triển các mô hình khi cần thiết.
Dẫu vậy, công ty cũng thừa nhận việc thực hiện điều đó không hề đơn giản. Các trung tâm dữ liệu có thể được xây dựng ở nhiều nơi, đồng thời các hoạt động phát triển mô hình không dễ giám sát như các cơ sở quân sự hay hạt nhân.
Cảnh báo vì lợi ích chung hay vì lợi ích của Anthropic?
Những cảnh báo và đề xuất từ phía Anthropic ngay lập tức tạo ra những phản ứng trái chiều trong giới chuyên gia công nghệ. Một số chuyên gia đồng tình rằng AI đang phát triển với tốc độ chưa từng có và cần được quản lý chặt chẽ hơn. Mitt Romney, cựu Thượng nghị sĩ Mỹ, cho rằng xây dựng các biện pháp bảo vệ AI nên là một ưu tiên cấp bách. Ông nhấn mạnh những rủi ro liên quan đến vũ khí AI, mầm bệnh, thất nghiệp, giám sát quy mô lớn và nguy cơ đe dọa sự tồn tại của nhân loại không được phép phớt lờ.
Ở chiều ngược lại, một bộ phận hoài nghi về động cơ phía sau lời kêu gọi của Anthropic. Đặc biệt, các cảnh báo về an toàn AI được đưa ra đúng thời điểm công ty này chuẩn bị IPO, với mức định giá doanh nghiệp đã tiến sát ngưỡng 1.000 tỷ USD. Anthropic từng bị xem là “kẻ ngoài cuộc” so với OpenAI, đang tăng tốc mạnh mẽ để vươn lên vị trí dẫn đầu trong cuộc đua AI toàn cầu.
Gary Marcus, nhà nghiên cứu AI, đưa quan điểm rằng công ty đang mô tả một viễn cảnh đáng sợ hơn nhiều so với những gì họ thực sự chứng minh được. Theo ông, những bằng chứng hiện nay chủ yếu cho thấy AI ngày càng giỏi viết mã và hỗ trợ lập trình chứ chưa chứng minh được khả năng tự nâng cấp hoàn toàn.
Nhiều chuyên gia lo ngại các đề xuất siết chặt quản lý AI có thể tạo lợi thế cho những doanh nghiệp đang dẫn đầu thị trường. Những quy định có nguy cơ khiến các công ty nhỏ hoặc các dự án mã nguồn mở gặp nhiều khó khăn hơn trong việc cạnh tranh. Giáo sư Luis Garicano tại Trường Kinh tế London nhận định các mô hình AI mở đang là thách thức lớn đối với các công ty phát triển AI tiên tiến. Theo vị giáo sư, nếu những lo ngại về rủi ro AI khiến các nhà quản lý chỉ cho phép một số “nhà phát triển đáng tin cậy” tiếp tục vận hành các mô hình mạnh nhất, điều đó có thể tạo lợi thế cho các doanh nghiệp dẫn đầu.
Tương tự, Kylan Gibbs, CEO của Inworld AI, cho rằng những lời cảnh báo về AI có thể giúp các công ty lớn trở thành đối tác được các nhà quản lý tham vấn đầu tiên khi xây dựng chính sách. Điều này tạo cơ hội để họ tác động đến các quy định theo hướng có lợi cho mình, đồng thời khiến các đối thủ nhỏ hơn gặp khó khăn trong việc đáp ứng yêu cầu pháp lý.
Thậm chí, David Sacks, cựu cố vấn tiền mã hóa và AI của Nhà Trắng còn chỉ trích gay gắt hơn. Ông cho rằng các công ty AI vừa liên tục cảnh báo về những nguy cơ nghiêm trọng, vừa tiếp tục đẩy nhanh cuộc đua phát triển công nghệ. Sacks mỉa mai rằng điều này chẳng khác nào kêu gọi chính phủ “bảo vệ xã hội khỏi chính các anh”.
Dù vậy, sự xuất hiện của các khái niệm như “tự cải tiến đệ quy”, “siêu trí tuệ nhân tạo” hay khả năng AI vượt khỏi tầm kiểm soát cho thấy những lo ngại từng được xem là giả thuyết xa vời đang trở thành chủ đề trung tâm trong các thảo luận về tương lai AI.
