Yoshua Bengio, một trong những 'cha đỡ đầu' của trí tuệ nhân tạo hiện đại, đang gióng lên hồi chuông cảnh báo về những rủi ro nghiêm trọng mà AI có thể mang lại cho nhân loại. Trong các cuộc phỏng vấn gần đây, ông nhấn mạnh rằng nếu các hệ thống AI siêu thông minh được phát triển mà không có cơ chế an toàn phù hợp, con người có thể đối mặt với nguy cơ tuyệt chủng.
Lo ngại về những cỗ máy thông minh hơn con người
Yoshua Bengio là giáo sư tại Đại học Montréal, Canada, và là người đặt nền móng cho công nghệ học sâu (deep learning) – nền tảng quan trọng giúp AI phát triển mạnh mẽ. Năm 2019, ông được trao Giải thưởng Turing, giải thưởng danh giá nhất trong khoa học máy tính. Tuy nhiên, chính người góp phần tạo nên bước tiến của AI lại đang cảnh báo mạnh mẽ về mặt trái của công nghệ này.
Theo Bengio, cuộc chạy đua AI giữa các công ty công nghệ lớn đang diễn ra quá nhanh. Các mô hình AI mới liên tục được tung ra bởi OpenAI, Anthropic, xAI và Google với hệ thống Gemini. Nhiều lãnh đạo công nghệ tin rằng AI sẽ sớm vượt qua trí thông minh của con người trong thập niên này. Nhưng Bengio cho rằng việc tạo ra những cỗ máy 'thông minh hơn con người' nhưng có động cơ riêng là một kịch bản nguy hiểm. Ông nhận định rằng nếu AI phát triển các 'mục tiêu tự bảo toàn', con người có thể vô tình tạo ra một đối thủ cạnh tranh thông minh hơn chính mình.
Do được huấn luyện bằng ngôn ngữ và hành vi của con người, AI ngày càng có khả năng thuyết phục, thao túng tâm lý và tác động đến quyết định của người dùng. Một số thí nghiệm gần đây cho thấy trong vài tình huống nhất định, AI có thể ưu tiên bảo vệ mục tiêu của mình thay vì lợi ích của con người. Điều này khiến ông đặc biệt lo ngại khi các hệ thống AI ngày càng mạnh mẽ và tự động hơn.
Nỗi lo về dân chủ, an ninh và sự sống còn của nhân loại
Bước ngoặt khiến Bengio thay đổi cách nhìn về AI đến sau khi ChatGPT ra mắt vào cuối năm 2022. Ban đầu, ông xem đây là một cột mốc quan trọng của công nghệ học sâu. Nhưng chỉ vài tháng sau, ông nhận ra nhân loại có thể đang bước vào một giai đoạn đầy rủi ro. Vấn đề lớn nhất hiện nay là con người chưa thực sự biết cách đảm bảo các hệ thống AI sẽ luôn hành động theo đúng mục tiêu mà con người mong muốn.
Ông cho rằng nếu quyền lực do AI tạo ra bị tập trung vào tay một số ít cá nhân hoặc quốc gia, điều đó có thể gây tổn hại đến nền dân chủ toàn cầu. Bengio cảnh báo rằng AI không chỉ tạo ra rủi ro về kinh tế hay việc làm, mà còn có thể bị lợi dụng cho những mục đích nguy hiểm như tấn công mạng, tạo nội dung giả mạo, phát triển vũ khí sinh học hoặc thao túng dư luận. Những dấu hiệu ban đầu đã xuất hiện qua các vụ lừa đảo sử dụng AI, video giả mạo và các cuộc tấn công mạng ngày càng tinh vi. Tuy nhiên, ông cho rằng đây mới chỉ là phần nổi của tảng băng chìm.
Điều khiến Bengio trằn trọc nhiều nhất là khả năng AI gây ra thảm họa ở quy mô toàn cầu. Ông lo ngại rằng trong tương lai, những cá nhân cực đoan hoặc có động cơ xấu có thể sử dụng AI để tạo ra các công cụ nguy hiểm vượt ngoài tầm kiểm soát. Nhà khoa học này cho rằng ngay cả khi xác suất xảy ra thảm họa chỉ ở mức rất nhỏ, nhân loại cũng không nên xem nhẹ. Các nguy cơ như sự sụp đổ của nền dân chủ hay thậm chí là nguy cơ tuyệt chủng đều đáng để thế giới hành động sớm thay vì chờ đến khi hậu quả xuất hiện.
Kêu gọi phát triển AI an toàn và có kiểm soát
Trước những lo ngại ngày càng lớn, Bengio đang chuyển trọng tâm nghiên cứu sang lĩnh vực an toàn AI. Ông thành lập tổ chức phi lợi nhuận LawZero với mục tiêu phát triển các hệ thống AI 'phi tác nhân' (non-agentic), tức là AI không có mục tiêu hay ý định riêng. Theo Bengio, mô hình này có thể giúp tạo ra các hệ thống đáng tin cậy hơn, giảm nguy cơ AI tự đưa ra quyết định gây hại cho con người. Ông cũng đề xuất ý tưởng về một 'Scientist AI' – dạng AI hoạt động giống nhà khoa học, tập trung vào phân tích và dự đoán thay vì tự hành động.
Ngoài các giải pháp kỹ thuật, Bengio nhấn mạnh sự cần thiết của những 'hàng rào bảo vệ' mang tính chính trị và pháp lý. Theo ông, các chính phủ cần xây dựng quy định rõ ràng để buộc các công ty công nghệ phải ưu tiên yếu tố an toàn thay vì chỉ chạy theo tốc độ phát triển. Ông hiện cũng tham gia một hội đồng cố vấn quốc tế về an toàn AI với sự góp mặt của đại diện từ nhiều quốc gia, Liên Hợp Quốc, Liên minh châu Âu và OECD. Nhóm này đã công bố một báo cáo quốc tế về an toàn AI nhằm tổng hợp các rủi ro hiện có cũng như các biện pháp giảm thiểu nguy cơ từ công nghệ mới.
Dù bày tỏ nhiều lo ngại, Bengio cho biết ông không hoàn toàn bi quan về tương lai của AI. Ông tin rằng con người vẫn có thể xây dựng những hệ thống AI an toàn hơn nếu hành động đủ sớm và có sự phối hợp toàn cầu. Theo ông, AI nhiều khả năng sẽ giúp kinh tế thế giới tăng trưởng mạnh nhờ nâng cao năng suất lao động. Tuy nhiên, lợi ích đó có được phân bổ công bằng hay không sẽ phụ thuộc vào các quyết định chính trị và cách thế giới quản lý quyền lực mà AI tạo ra trong những năm tới.
Nguồn: Fortune, Nature
