Từ ngày 15/8, nhiều hệ thống trí tuệ nhân tạo (AI) quen thuộc với người dùng sẽ phải đáp ứng các yêu cầu quản lý mới, theo Danh mục hệ thống AI có rủi ro cao vừa được Chính phủ ban hành. Các hệ thống này hoạt động trong các lĩnh vực giáo dục, y tế, ngân hàng và giao thông, có khả năng ảnh hưởng trực tiếp đến quyền lợi, sức khỏe và an toàn của người dân nếu xảy ra sai sót.
Danh mục AI rủi ro cao bao gồm 6 lĩnh vực
Theo quy định, danh mục AI có rủi ro cao bao gồm các hệ thống thuộc 6 lĩnh vực: giáo dục, dân tộc và tôn giáo, y tế, ngân hàng, tố tụng, giao thông vận tải. Trong lĩnh vực giáo dục, AI không chỉ tạo nội dung học tập mà còn có thể tự động đánh giá kết quả, xếp hạng hoặc phân tích hành vi người học. Vì tham gia trực tiếp vào quá trình dạy và học, nhóm này thuộc diện phải quản lý chặt chẽ hơn.
AI trong y tế và ngân hàng chịu giám sát chặt
Trong y tế, các hệ thống AI hỗ trợ bác sĩ phẫu thuật hoặc điều khiển robot phẫu thuật nằm trong danh mục quản lý. Do ảnh hưởng trực tiếp đến sức khỏe người bệnh, nhóm này được xếp vào AI rủi ro cao. Trong ngân hàng, AI có khả năng tự động thực hiện giao dịch điện tử hoặc quyết định cấp tín dụng cũng thuộc nhóm rủi ro cao, phải tuân thủ các yêu cầu quản lý.
Giao thông vận tải có nhiều hệ thống AI nhất
Lĩnh vực giao thông vận tải có nhiều hệ thống AI nhất với 31 loại, bao gồm AI điều khiển phương tiện tự hành cấp độ cao, vận hành đèn tín hiệu giao thông, điều phối giao thông đường bộ, đường sắt và quản lý công trình hạ tầng giao thông trọng yếu. Nếu xảy ra sai sót, các hệ thống này có thể ảnh hưởng trực tiếp đến việc đi lại và an toàn của người dân.
Nguyên tắc giám sát con người
Quy định mới đặt ra nguyên tắc: các hệ thống AI rủi ro cao phải luôn có sự giám sát, kiểm soát và khả năng can thiệp của con người trong suốt quá trình hoạt động. AI có thể hỗ trợ phân tích, gợi ý, nhưng không được tự đưa ra quyết định thay cho người có thẩm quyền. Quyền quyết định cuối cùng và trách nhiệm pháp lý thuộc về cơ quan, tổ chức hoặc cá nhân theo quy định pháp luật.
Lộ trình chuyển tiếp cho hệ thống đang hoạt động
Các hệ thống AI đã hoạt động trước ngày 15/8 không phải dừng ngay mà được áp dụng lộ trình chuyển tiếp. Hệ thống trong lĩnh vực y tế, giáo dục và tài chính phải hoàn thành tuân thủ trước ngày 1/9/2027. Các lĩnh vực còn lại có thời hạn đến trước ngày 1/3/2027. Trong thời gian chuyển tiếp, hệ thống vẫn được phép hoạt động, nhưng nếu cơ quan có thẩm quyền xác định nguy cơ gây thiệt hại nghiêm trọng, hệ thống có thể bị yêu cầu tạm dừng hoặc chấm dứt hoạt động theo Luật Trí tuệ nhân tạo.
