Phó giáo sư Michael Okun, Đại học Nottingham, đã từ chức biên tập viên tại tạp chí Frontiers in Systems Neuroscience để phản đối hệ thống AI của nhà xuất bản, theo bài đăng ngày 10/6. Nguyên nhân bắt nguồn từ sự cố hồi đầu tháng 5, khi hệ thống AI mang tên Artificial Intelligence Research Assistant (AIRA) tự động gửi lời mời phản biện tới các nhà nghiên cứu khác mà không có sự đồng ý của ông.
Sự cố từ hệ thống AI tự động
Khi được giao phụ trách một nghiên cứu về động lực học của các mạng lưới thần kinh, Okun đã gửi lời mời phản biện tới khoảng sáu chuyên gia phù hợp. Tuy nhiên, trước khi họ phản hồi, AIRA tự động gửi thêm lời mời tới các nhà nghiên cứu khác. Hai người do AI chọn đã chấp nhận lời mời dù không có chuyên môn phù hợp. Sau khi Okun phản ánh, nhà xuất bản hướng dẫn ông bỏ qua các lời mời đó. Nhưng khi một chuyên gia do Okun chọn đồng ý phản biện, AIRA lại tự động hủy các lời mời khác mà ông đã gửi.
Okun cho rằng đây không phải lỗi kỹ thuật mà là tính năng được thiết kế nhằm giảm tối đa vai trò của biên tập viên con người. Ông cáo buộc tạp chí ưu tiên xử lý và xuất bản nhiều bài báo hơn thay vì bảo đảm chất lượng phản biện.
Nhiều nhà khoa học gặp tình huống tương tự
Giáo sư Shuzo Sakata, Đại học Strathclyde, cho biết dù từ chối một bản thảo, hệ thống vẫn tiếp tục gửi lời mời phản biện tới người khác mà không có sự cho phép. Ông nói: “Tự động hóa là xu hướng tất yếu và mang lại nhiều lợi ích, nhưng hệ thống AI đã vượt quá giới hạn.” Hiện ông không còn nhận xử lý bản thảo cho tạp chí. Giáo sư Earl K. Miller, Viện Công nghệ Massachusetts, cũng chia sẻ rằng ông liên tục nhận được yêu cầu phản biện không phù hợp với lĩnh vực của mình.
Những trường hợp này làm dấy lên tranh cãi về khả năng đánh giá chuyên môn của AI trong xuất bản khoa học. Nhiều chuyên gia lo ngại việc AI can thiệp sâu vào khâu chọn phản biện có thể ảnh hưởng đến chất lượng thẩm định, khiến nghiên cứu thiếu tin cậy được công bố hoặc công trình chất lượng bị bỏ qua.
Frontiers khẳng định con người vẫn là trung tâm
Trong phản hồi gửi tới The Transmitter, Frederick Fenter, Tổng biên tập điều hành của Frontiers, cho biết tất cả tính năng AI đều nhằm giúp các nhà khoa học tiết kiệm thời gian. Ông nhấn mạnh biên tập viên có toàn quyền quyết định sử dụng hay không gợi ý từ AI, có thể xem xét danh sách trước khi gửi lời mời và thay đổi người phản biện bất cứ lúc nào. Frontiers đã triển khai AI hỗ trợ tìm chuyên gia từ năm 2018. Dữ liệu nội bộ cho thấy thời gian trung bình để tìm người đồng ý phản biện giảm khoảng 30% trong năm qua. Khoảng 80% biên tập viên tham gia khảo sát đánh giá công cụ tự động hữu ích và 94% tác giả hài lòng với trải nghiệm phản biện.
Hiện Frontiers đang tiến hành rà soát nội bộ để xác định nguyên nhân dẫn đến hiểu lầm và ngăn chặn các trường hợp tương tự.
Quan điểm của Phó giáo sư Okun
Okun không phản đối việc sử dụng AI; ông cho rằng mô hình ngôn ngữ lớn có thể hỗ trợ tìm chuyên gia, miễn là có tham khảo ý kiến biên tập viên con người. Ông nói: “Nếu một nhà xuất bản muốn vận hành hoàn toàn bằng AI, điều đó có thể chấp nhận. Tuy nhiên, họ cần công khai minh bạch và không nên gắn tên biên tập viên con người vào các quyết định mà thực chất do AI đưa ra.”
