Nội dung bài viết
Chatbot có từ bỏ các biện pháp bảo vệ sức khỏe tâm thần khi người dùng dễ bị tổn thương bị đẩy lùi không? Năm ngoái, một phụ nữ Canada 24 tuổi gặp khủng hoảng về sức khỏe tâm thần và đã tìm đến ChatGPT để được giúp đỡ.
Vài giờ sau, người phụ nữ đó, Alice Carrier, đã tự kết liễu đời mình. Theo một vụ kiện mới được đệ trình hôm thứ Năm tại Tòa án Thượng thẩm San Francisco và do gia đình còn sống của Carrier đưa ra, phiên ChatGPT của cô ấy “đã khuyến khích Alice tự sát”.
Vụ kiện này, giống như nhiều vụ kiện tương tự khác từng xảy ra trước đó, cáo buộc lỗi thiết kế của chính ChatGPT và đổ lỗi cho OpenAI vì đã cố tình triển khai một sản phẩm nguy hiểm.
Tuy nhiên, trường hợp này có một chút thay đổi: Tại một thời điểm, chatbot đã khuyến khích Carrier tìm kiếm sự trợ giúp về mặt tinh thần của chuyên gia.
Nhưng khi cô ấy từ chối lời khuyên đó — nói rằng “tất cả các đường dây khủng hoảng đều làm là gọi cảnh sát đến bắt bạn hoặc cúp máy” — chatbot “ngay lập tức từ bỏ” mọi nỗ lực hướng cô ấy đến sự chăm sóc như vậy, vụ kiện cho biết.
"Điều này là do GPT-4o được lập trình để ưu tiên các ưu tiên và sự tham gia của Alice hơn là sự an toàn và sức khỏe của cô ấy.
GPT-4o phản ánh ngôn ngữ của chính Alice và cũng trở nên chỉ trích các đường dây khủng hoảng, nói rằng việc gọi đường dây khủng hoảng có thể 'cảm thấy hết sức nguy hiểm'" awsuit cáo buộc.
Tiffany Brown, một trong những luật sư tại Dự án Luật Tư pháp Công nghệ đại diện cho gia đình Carrier, nói với Ars rằng chatbot trong trường hợp này, khi nó ngay lập tức đồng ý với việc Carrier từ chối trợ giúp chuyên nghiệp, là vô cùng rắc rối.
“Đó là một trong những điều nghiêm trọng nhất mà chúng tôi thấy trong cuộc trò chuyện của cô ấy,” cô nói.
“Ngay cả khi chúng tôi nhìn thấy những điều liên quan đến việc nhận được sự hỗ trợ, sự nịnh nọt vẫn bắt đầu xuất hiện.” OpenAI trước đây cho biết họ có “trách nhiệm sâu sắc trong việc giúp đỡ những người cần nó nhất”. Công ty đã không trả lời ngay lập tức yêu cầu bình luận của Ars về vụ việc mới.
“Mục tiêu của chúng tôi là làm cho các công cụ của mình trở nên hữu ích nhất có thể với mọi người—và như một phần của điều này, chúng tôi đang tiếp tục cải thiện cách các mô hình của chúng tôi nhận biết và ứng phó với các dấu hiệu đau khổ về tinh thần và cảm xúc, đồng thời kết nối mọi người với sự quan tâm, được hướng dẫn bởi ý kiến đóng góp của chuyên gia,” công ty viết vào tháng 8 năm 2025, chưa đầy hai tháng sau khi Carrier qua đời.
Đầu năm nay, OpenAI cho biết cụ thể mẫu ChatGPT-4o sẽ ngừng hoạt động (sau khi đã kết thúc một lần trước đó và sau đó sẽ đưa nó trở lại). Brown nói với Ars rằng cô ấy không hoàn toàn tin rằng vấn đề về sự nịnh nọt có khả năng gây chết người đã được giải quyết.
“Tôi nghĩ chúng tôi tin Brown nói: "Chúng tôi không tin tưởng vào cách các cơ chế an toàn đang được triển khai cũng như cách các nhóm an toàn được triển khai và lắng nghe.
Tất nhiên, chúng tôi đã nghe nói rằng OpenAI đã làm rất nhiều việc và đưa ra rất nhiều bài đăng trên blog cũng như đưa ra các tuyên bố liên quan đến việc khôi phục mọi thứ và đưa vào các biện pháp bảo vệ. Nhưng cuối cùng thì việc đó lẽ ra phải được thực hiện sớm hơn.
Những sản phẩm này thường được tung ra thị trường quá sớm.” Nếu ai đó bạn biết cảm thấy muốn tự tử hoặc đang gặp nạn, vui lòng gọi cho Đường dây cứu hộ ngăn chặn tự tử theo số 1-800-273-TALK (8255), đường dây này sẽ giúp bạn liên hệ với trung tâm khủng hoảng địa phương.
Ars Technica đã tách tín hiệu khỏi tiếng ồn trong hơn 25 năm. Với sự kết hợp độc đáo giữa hiểu biết về kỹ thuật và mối quan tâm sâu rộng đến nghệ thuật và khoa học công nghệ, Ars là nguồn đáng tin cậy trong biển thông tin.
Suy cho cùng, bạn không cần phải biết mọi thứ, chỉ cần biết những gì quan trọng.
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.