Tổng Thư ký Liên Hợp Quốc António Guterres đã làm dấy lên lại cuộc tranh luận về an toàn trí tuệ nhân tạo (AI) khi kêu gọi cấm vũ khí tự động, gọi chúng là 'robot sát thủ'. Phát biểu tại hội nghị về quản trị AI ở Geneva hôm 6/7, ông nhấn mạnh: 'Việc máy móc tự lựa chọn, tấn công mục tiêu và tước đoạt sinh mạng mà không có sự kiểm soát hay phán xét của con người là điều tồi tệ về mặt đạo đức. Hãy gọi chúng đúng với bản chất: robot sát thủ'.
Rạn nứt giữa Anthropic và Lầu Năm Góc
Lời kêu gọi này đưa trở lại cuộc tranh luận vốn là nguyên nhân chính dẫn đến rạn nứt giữa công ty AI Anthropic và Lầu Năm Góc đầu năm nay. Vào thời điểm đó, Anthropic yêu cầu Lầu Năm Góc đảm bảo rằng các mô hình AI của họ sẽ không bị sử dụng cho hệ thống giám sát trong nước hoặc hệ thống vũ khí tự động. Lầu Năm Góc, lúc đó là tổ chức sử dụng lượng lớn các công cụ của Anthropic, đã từ chối và khẳng định họ có quyền dùng AI của hãng cho mọi mục đích hợp pháp. Hai bên hiện đang kiện tụng tại tòa.
Giáo hoàng Leo XIV cũng lên tiếng
Giáo hoàng Leo XIV cũng đã kêu gọi cấm vũ khí điều khiển bằng AI và chiến tranh tự động trong thông điệp mùa xuân năm nay. Ông cảnh báo các hệ thống AI có nguy cơ 'bình thường hóa một tầm nhìn phi nhân tính'. Giáo hoàng cho rằng hệ thống vũ khí do AI điều khiển có nguy cơ làm giảm cái giá phải trả về mặt chính trị đối với những bên sở hữu công nghệ tiên tiến, khiến 'chiến tranh dễ nổ ra hơn và ít chịu sự kiểm soát của con người'.
Tiến bộ công nghệ trên chiến trường
Tuy nhiên, tiến bộ công nghệ trên chiến trường đang diễn ra chóng mặt. Những người ủng hộ vũ khí AI và các công ty quốc phòng lập luận rằng vũ khí tự động sẽ vẫn nằm dưới sự kiểm soát của con người, trong đó AI chỉ giúp các chỉ huy thao tác với độ chính xác và tốc độ cao hơn. Ngược lại, phe phản đối cho rằng các hệ thống AI vẫn mắc sai lầm, do đó việc con người nhường quyền kiểm soát cho máy móc trong những khoảnh khắc căng thẳng là vô cùng nguy hiểm. Một số nhà hoạt động vì an toàn AI lập luận rằng việc vũ trang hóa AI sẽ chỉ đẩy nhanh nguy cơ AI thoát khỏi tầm kiểm soát và tấn công lại người tạo ra chúng.
Bối cảnh chính trị và xã hội
Cuộc tranh luận về vũ khí AI diễn ra trong bối cảnh công chúng tại Mỹ và nhiều quốc gia khác ngày càng phản ứng gay gắt trước những tác động tiêu cực tiềm tàng của cuộc cách mạng AI, bao gồm nguy cơ mất việc làm hàng loạt và giá điện tăng cao. Tại Mỹ, chính quyền Tổng thống Donald Trump tháng trước đã dỡ bỏ lệnh cấm xuất khẩu kéo dài nhiều tuần đối với hai mô hình AI mạnh mẽ của Anthropic, nhưng các cuộc tranh luận về cách thức quản lý hệ thống AI vẫn diễn ra gay gắt. Chính quyền cho biết đang xây dựng quy trình kiểm tra mức độ an toàn của các mô hình trước khi phát hành.
Lời kêu gọi hành động
Tổng Thư ký Guterres đã phát biểu tại Geneva ngay trước thềm tuần lễ thảo luận về quản trị AI với chính phủ các nước và giới vận động an toàn, nhằm tìm cách quản lý AI trong nhiều lĩnh vực, bao gồm cả an toàn trẻ em. 'Đừng đợi đến khi thảm kịch xảy ra mới hành động', ông nói. 'Một số quyết định phải mãi mãi thuộc về con người, đặc biệt là việc tước đoạt sinh mạng của một con người'.
