Adrian de Wynter, nhà nghiên cứu AI tại Microsoft kiêm giảng viên Đại học York, đã sử dụng tựa game chiến thuật thời gian thực Age of Empires II để trả lời câu hỏi liệu các mô hình ngôn ngữ lớn như ChatGPT và Claude có thực sự mang đặc tính giống con người hay không. Câu trả lời của ông là một đàn dê.
Mạng nơ-ron từ dê và cỏ
De Wynter đã xây dựng một mạng nơ-ron hoạt động thực sự bên trong Age of Empires II bằng trình chỉnh sửa bản đồ. Thiết kế đơn giản: cỏ đại diện cho số 0, cầu đại diện cho số 1, và dê đóng vai trò các bit thông tin. Khi một cổng logic kích hoạt, những con dê di chuyển dọc theo đường ray, truyền tín hiệu từ đầu vào sang đầu ra. Khi cổng hoàn thành phép tính, các con dê 'chết' và những con dê mới xuất hiện ở đường ra.
Ông đặt tên bài báo của mình: 'If LLMs Have Human-Like Attributes, Then So Does Age of Empires II.' Mô hình này là dạng đơn giản nhất của mạng nơ-ron, một thuật toán phân loại đầu vào thành hai nhóm nhị phân. Nó không phức tạp như GPT-4 hay Claude Opus, nhưng nó dùng đúng nguyên lý nền tảng làm cơ sở cho mọi mô hình ngôn ngữ lớn hiện đại.
Luận điểm: Giao diện tạo ảo giác
'Nếu các mô hình ngôn ngữ lớn có đặc tính giống người thì đàn dê trong Age of Empires II cũng vậy,' De Wynter nói với tờ 404 Media. 'Tôi có xu hướng đẩy mọi thứ lên mức 11 khi tôi thực sự cần nhấn mạnh một điểm.'
Luận điểm của De Wynter xoay quanh giao diện, không phải công nghệ. Khi một người tương tác với mô hình ngôn ngữ lớn qua cửa sổ chat, ngôn ngữ tự nhiên và giọng điệu trò chuyện tạo ra ảo giác rằng có một thực thể có ý thức ở đầu bên kia. Nhưng bỏ cửa sổ chat đó đi, thay bằng đàn dê di chuyển trên bản đồ game cổ điển, ảo giác tan biến ngay lập tức dù công nghệ nền tảng là như nhau.
Thiên kiến trong nghiên cứu AI
Vấn đề này không chỉ ảnh hưởng đến người dùng phổ thông mà lan vào cả nghiên cứu khoa học. De Wynter xem xét 315 bài báo khoa học máy tính được công bố trong hai năm qua và phát hiện 57% bắt đầu với giả định rằng mô hình ngôn ngữ lớn có đặc điểm giống người. Thiên kiến xuất phát điểm đó ảnh hưởng đến cách thiết kế thí nghiệm, cách diễn giải kết quả và cách đưa ra kết luận.
Áp lực thương mại
Bối cảnh thương mại càng làm tình trạng này phức tạp hơn. Người mua có xu hướng gắn bó với sản phẩm mà họ có thể đồng cảm, và các công ty AI không hề ngăn cản điều đó. CEO Sam Altman của OpenAI nhiều lần gợi ý về khả năng tạo ra AI có ý thức. CEO Dario Amodei của Anthropic thừa nhận với tờ New York Times rằng ông không thể chắc chắn AI có ý thức hay không. Những phát biểu như vậy không nhất thiết là sai, nhưng De Wynter chỉ ra rằng chúng cũng rất có lợi về mặt tiếp thị trong một ngành đang đốt tiền với tốc độ khổng lồ.
'Tôi không thể yêu cầu mọi người không gắn bó với AI,' De Wynter nói. 'Nhưng tôi nghĩ điều quan trọng nhất có thể làm là minh bạch về bản chất của chúng.'
Kết luận
De Wynter không phủ nhận hoàn toàn khả năng AI có một dạng ý thức nào đó, vì ông xem ý thức là phổ liên tục chứ không phải trạng thái nhị phân. Câu hỏi ông đặt ra không phải là AI có ý thức không, mà là chúng ta có đang đánh giá câu hỏi đó một cách trung thực không, hay chúng ta chỉ đang tìm thấy những gì chúng ta muốn tìm vì giao diện trò chuyện khiến việc đó quá dễ dàng. Câu trả lời, theo De Wynter, nằm ngay trong trình chỉnh sửa bản đồ của một tựa game ra mắt từ năm 1999. Không ai tranh luận rằng đàn dê đó có ý thức. Và nếu đàn dê đó có thể tái tạo được những đặc điểm mà người ta dùng làm bằng chứng cho ý thức của AI, thì những đặc điểm đó có lẽ chưa bao giờ là bằng chứng của bất cứ điều gì.
