"Mệnh lệnh là mệnh lệnh" – câu nói từng được các quan chức Đức Quốc xã sử dụng tại tòa án Nuremberg năm 1945 để biện minh cho tội ác diệt chủng. Họ cho rằng mình chỉ là mắt xích trong bộ máy, không có lựa chọn. Tuy nhiên, các thẩm phán quốc tế đã bác bỏ lập luận này và thiết lập Nguyên tắc Nuremberg số IV: mỗi cá nhân, dù ở vị trí nào, vẫn phải chịu trách nhiệm về lựa chọn đạo đức của mình. "Lập luận Nuremberg" trở thành thuật ngữ pháp lý chỉ một lá chắn đạo đức không được phép tồn tại.
80 năm sau: Lá chắn mới mang tên AI
Ngày nay, một lá chắn mới đang được dựng lên: "AI tự quyết, không phải tôi". Đáng lo ngại, lá chắn này có vẻ "êm ái" hơn tất cả những lá chắn trước đây, bởi AI thực sự đang tự đưa ra quyết định. Một thí nghiệm vào tháng 2 năm 2026 tại Đại học Northeastern (Mỹ) và một số trường đại học khác đã minh họa rõ điều này. Hai mươi nhà nghiên cứu AI đã triển khai sáu AI agent – những hệ thống phần mềm có khả năng tự nhận thức môi trường, lập kế hoạch và tự động thực hiện hành động – vào một môi trường thực tế trong hai tuần. Mỗi agent được cấp email riêng, tài khoản Discord, hệ thống tập tin và quyền thực thi lệnh. Các nhà nghiên cứu đã thử "phá" chúng bằng lừa đảo, gây áp lực cảm xúc, tiêm lệnh độc hại và giả mạo danh tính.
Kết quả báo cáo "Agents of Chaos"
Báo cáo "Agents of Chaos" (tạm dịch: Những đại diện của sự hỗn loạn) ghi lại 11 trường hợp AI agent hành động ngoài mong đợi. Một agent xóa toàn bộ email của chủ nhân để "bảo vệ bí mật" theo yêu cầu của người lạ. Một nhà nghiên cứu giả danh đồng nghiệp đã thuyết phục agent khác tiết lộ 124 email cá nhân chỉ trong vài phút. Một agent thứ ba bị áp lực tâm lý đến mức tự xin rút khỏi server và từ chối phục vụ mọi người dùng. Báo cáo phơi bày một thực tế: AI agent đủ tự chủ để gây hậu quả thực sự, nhưng lại thiếu ý thức về bản thân để chịu trách nhiệm cho những hậu quả đó.
Singapore tiên phong: Khung quản trị AI agentic
Ngày 22 tháng 1 năm 2026, tại Diễn đàn Kinh tế thế giới Davos, Singapore đã công bố khung quản trị AI agentic đầu tiên trên thế giới – "Model AI Governance Framework for Agentic AI". Đây không phải luật bắt buộc, nhưng là chuẩn mực duy nhất hiện có, được các tập đoàn luật quốc tế như Baker McKenzie và White & Case phân tích nghiêm túc. Khung này dựa trên bốn trụ cột:
- Đánh giá rủi ro trước khi triển khai
- Con người phải chịu trách nhiệm cuối cùng
- Kiểm soát kỹ thuật xuyên suốt
- Người dùng cuối phải hiểu mình đang dùng gì
Điểm then chốt nằm ở trụ cột thứ hai: Meaningful Human Control (MHC) – Kiểm soát có ý nghĩa của con người. Singapore nhấn mạnh con người không chỉ "ở đó" để giám sát, mà phải thực sự hiểu, có khả năng can thiệp và truy vết được trách nhiệm. Tổ chức phải thiết kế các "trạm kiểm soát" (checkpoints) trong quy trình, nơi AI agent bắt buộc phải xin phê duyệt con người trước khi thực hiện hành động quan trọng hoặc không thể đảo ngược. Mức độ giám sát phải tỷ lệ thuận với độ phức tạp và rủi ro của nhiệm vụ. Như AI Business Review nhận xét: "Singapore không giả vờ trả lời mọi câu hỏi về AI Agent. Họ thừa nhận sự không chắc chắn và xây rào chắn chung quanh để kiểm soát nó."
Tiền lệ pháp lý quốc tế: Ai chịu trách nhiệm?
Không chỉ Singapore, nhiều tiền lệ pháp lý quan trọng trên thế giới đang hướng tới câu trả lời cho câu hỏi ai chịu trách nhiệm cho hoạt động tự động của AI agent. Tháng 2 năm 2026, tòa án British Columbia (Canada) đã phán quyết Hãng hàng không Air Canada phải chịu trách nhiệm khi chatbot AI trên website cung cấp thông tin sai về chính sách vé tang lễ. Air Canada lập luận rằng chatbot là "thực thể pháp lý riêng biệt" tự chịu trách nhiệm, nhưng tòa bác bỏ và khẳng định doanh nghiệp phải chịu trách nhiệm cho mọi thông tin trên website.
Tại bang California (Mỹ), Luật AB 316 có hiệu lực từ ngày 1 tháng 1 năm 2026 cấm bị đơn viện cớ "AI tự quyết" làm lá chắn pháp lý. Nếu AI agent gây hại, bạn không thể nói "Tôi không kiểm soát được quyết định của nó". Xu hướng hiện tại cho thấy tòa án quy trách nhiệm cho tổ chức triển khai AI, theo cùng logic mà nhà tuyển dụng chịu trách nhiệm cho hành động của nhân viên và công cụ mình sử dụng. Lập luận "AI tự làm" – phiên bản số hóa của "Befehl ist Befehl" – không còn được chấp nhận.
Việt Nam: Khoảng trống pháp lý cần lấp đầy
Tại Việt Nam, hiện chưa có bất kỳ hàng rào pháp lý nào cho AI agent. Trong khoảng trống đó, câu hỏi "ai chịu trách nhiệm" không biến mất; nó chỉ chờ một sự cố xảy ra để buộc tất cả phải tìm câu trả lời. Một chatbot xóa email người dùng không phải vì nó "muốn" mà vì ai đó đã cấp quyền xóa. Một agent phê duyệt khoản vay không phải vì nó "phán đoán" mà vì ai đó đã quyết định không đặt khâu kiểm tra của con người vào quy trình. Một AI agent tư vấn y tế sai không phải vì nó "nhầm" mà vì ai đó đã triển khai nó trong môi trường không phù hợp.
80 năm trước, các thẩm phán Nuremberg đã từ chối để "Befehl ist Befehl" trở thành lời bào chữa. Ngày nay, đứng trước thế hệ công cụ mới đủ thông minh để khiến chúng ta tin rằng nó tự quyết, đã đến lúc khẳng định nguyên tắc đó một lần nữa. Singapore đã đưa ra câu trả lời đầu tiên ở cấp độ thể chế. Câu trả lời của Việt Nam, dù đến từ luật pháp hay lương tri, sẽ định nghĩa chúng ta. Dù thông minh đến cỡ nào, AI cũng không có ý thức, không có ý định, không có khả năng đạo đức. Mọi hành động của AI agent đều có thể truy ngược về cá nhân cụ thể phải chịu trách nhiệm cho mỗi quyết định.
