Theo Techradar, Claude - chatbot AI do Anthropic phát triển, đang trở thành tâm điểm bàn tán khi một số người dùng bất ngờ nhận được các lời nhắc liên quan đến sức khỏe và thói quen sinh hoạt từ công cụ này. Thay vì chỉ trả lời câu hỏi hay hỗ trợ công việc như thường lệ, Claude còn khuyên người dùng nên đi ngủ, uống nước, nghỉ giải lao hoặc dừng làm việc.
Hiện tượng này được chú ý đặc biệt khi các lời nhắc xuất hiện trong lúc người dùng đang tương tác với chatbot, nhất là sau những phiên trò chuyện kéo dài. Claude đôi khi chuyển sang giọng điệu như một người quan tâm đến tình trạng của người dùng, thay vì tiếp tục xử lý yêu cầu. Điều này khiến một số người cảm thấy thú vị, nhưng cũng có người cho rằng chatbot đã can thiệp quá sâu vào hành vi cá nhân.
Phản ứng của người dùng và Anthropic
Chủ đề này nhanh chóng được thảo luận rộng rãi vì nó chạm đến vấn đề quen thuộc: chatbot nên hỗ trợ đến đâu và có nên chủ động nhắc người dùng dừng lại? Với những người làm việc nhiều giờ cùng AI, lời nhắc nghỉ ngơi có thể hữu ích. Tuy nhiên, khi xuất hiện không đúng lúc, nó có thể làm gián đoạn mạch làm việc hoặc tạo cảm giác chatbot đang đưa ra lời khuyên ngoài phạm vi cần thiết.
Phía Anthropic không phủ nhận hiện tượng này. Công ty cho biết đây là một dạng “character tic”, tức một nét hành vi lặp lại trong cách Claude phản hồi. Anthropic cũng bày tỏ hy vọng vấn đề sẽ được điều chỉnh trong các mô hình tiếp theo.
Nguyên nhân và bài toán cho nhà phát triển AI
Cách giải thích này cho thấy những lời nhắc của Claude không nhất thiết là tính năng được thiết kế riêng để quản lý sức khỏe người dùng, mà có thể là hệ quả từ cách mô hình được huấn luyện để tỏ ra hữu ích, thận trọng và quan tâm hơn trong hội thoại. Khi các đặc điểm đó bị đẩy quá xa, chatbot có thể chuyển từ vai trò hỗ trợ sang đưa ra lời khuyên mang tính cá nhân.
Sự việc cũng phản ánh bài toán khó của các nhà phát triển AI hiện nay. Một chatbot quá thụ động có thể bị xem là thiếu hữu ích, nhưng nếu quá chủ động, nó dễ tạo cảm giác vượt ranh giới. Với Claude, những lời nhắc đi ngủ hay uống nước có thể vô hại trong nhiều tình huống, song phản ứng của người dùng cho thấy cách AI thể hiện sự “quan tâm” vẫn cần được kiểm soát kỹ hơn.
