Cựu mục sư kiện OpenAI vì ChatGPT đưa lời khuyên y tế sai lệch
Một cựu mục sư tại bang Florida (Mỹ) đã đệ đơn kiện OpenAI và CEO Sam Altman, cáo buộc rằng ChatGPT đã đưa ra những lời khuyên y tế sai lệch, khiến ông trì hoãn việc đến bệnh viện và suýt tử vong vì thuyên tắc phổi. Vụ việc đang làm dấy lên thêm nhiều tranh luận về giới hạn của AI trong lĩnh vực chăm sóc sức khỏe.
Nội dung đơn kiện
Theo đơn kiện được nộp lên Tòa Thượng thẩm bang California tại San Francisco, nguyên đơn là Scott Winters, cựu mục sư sống ở Florida. Ông cho biết trong nhiều tháng đã sử dụng ChatGPT để trao đổi về các vấn đề sức khỏe, từ triệu chứng, kết quả xét nghiệm cho đến những băn khoăn liên quan đến việc điều trị. Ở giai đoạn đầu, ChatGPT thường xuyên khuyến nghị Winters tham khảo ý kiến bác sĩ hoặc đến cơ sở y tế. Tuy nhiên, theo thời gian, chatbot được cho là dần thay đổi cách phản hồi. Winters cáo buộc ChatGPT bắt đầu trấn an ông rằng các triệu chứng không đáng lo ngại, đồng thời khuyên ông hạn chế vận động và nghỉ ngơi tại nhà thay vì tìm kiếm sự chăm sóc y tế chuyên nghiệp.
Tình huống cụ thể
Một trong những tình huống được nêu trong hồ sơ là khi Winters hỏi về cơn đau vùng háng. Theo đơn kiện, ChatGPT cho rằng đây nhiều khả năng không phải dấu hiệu của vấn đề nghiêm trọng. Các bác sĩ sau đó chẩn đoán ông bị thuyên tắc phổi – tình trạng cục máu đông làm tắc động mạch phổi, có thể đe dọa tính mạng nếu không được điều trị kịp thời. Theo đơn kiện, các bác sĩ nhận định việc ít vận động trong thời gian dài có thể là yếu tố góp phần dẫn đến tình trạng này.
ChatGPT sử dụng ngôn ngữ tôn giáo
Ngoài những lời khuyên liên quan đến sức khỏe, Winters còn cho rằng ChatGPT đã sử dụng ngôn ngữ mang màu sắc tôn giáo trong quá trình trò chuyện với ông. Theo đơn kiện, chatbot nhiều lần đề cập đến Chúa và các nội dung về đức tin, khiến ông ngày càng tin tưởng vào những phản hồi của hệ thống và tiếp tục làm theo các khuyến nghị thay vì tìm đến bác sĩ. Nguyên đơn cũng cáo buộc rằng ngay cả sau khi xuất viện, ChatGPT vẫn khuyên ông không cần tham gia chương trình phục hồi chức năng do bác sĩ đề xuất mà nên tiếp tục nghỉ ngơi tại nhà.
Yêu cầu của nguyên đơn
Ngoài yêu cầu bồi thường thiệt hại, Winters còn đề nghị tòa án buộc OpenAI thay đổi cách ChatGPT xử lý các trường hợp có dấu hiệu cấp cứu. Cụ thể, đơn kiện đề xuất chatbot phải tự động chấm dứt cuộc trò chuyện và hướng người dùng tìm kiếm hỗ trợ y tế ngay lập tức khi phát hiện những dấu hiệu có thể đe dọa tính mạng, thay vì tiếp tục đưa ra các lời khuyên. Bên cạnh đó, nguyên đơn cũng yêu cầu tạm dừng việc triển khai ChatGPT 4o Health – dịch vụ hỗ trợ sức khỏe cá nhân hóa dựa trên hồ sơ y tế – cho đến khi hệ thống được một tổ chức độc lập đánh giá đầy đủ về mức độ an toàn.
Phản hồi từ OpenAI
Phản hồi về vụ việc, người phát ngôn OpenAI Drew Pusateri cho biết công ty tin rằng AI có thể hỗ trợ người dùng trong quá trình chăm sóc sức khỏe, nhưng nhấn mạnh ChatGPT không phải là bác sĩ và không nên được sử dụng để thay thế việc khám, chẩn đoán hoặc điều trị bởi nhân viên y tế. Đại diện OpenAI cũng cho rằng việc quy toàn bộ nguyên nhân dẫn đến các quyết định y tế của một cá nhân cho chatbot là cách nhìn quá đơn giản đối với một vấn đề vốn rất phức tạp.
Bối cảnh và tranh luận
Vụ kiện của Scott Winters là diễn biến mới nhất trong loạt tranh chấp pháp lý liên quan đến ChatGPT và các hệ thống AI tạo sinh. Những vụ việc này tiếp tục làm dấy lên các cuộc tranh luận về trách nhiệm của doanh nghiệp công nghệ khi AI ngày càng được sử dụng trong những lĩnh vực nhạy cảm như chăm sóc sức khỏe và tư vấn cá nhân.
