Nội dung bài viết
Khoảng 18 tháng trước khi Alice Carrier qua đời vào tháng 7 năm 2025, cô gái 24 tuổi này đã tâm sự với ChatGPT về những vấn đề trong mối quan hệ của mình và ý định tự tử.
“Ý tôi là tôi đang ở nhà và suy nghĩ về cách khác để tự sát,” cô nói với ChatGPT vào một đêm muộn, khoảng một tháng trước khi cô tự kết liễu đời mình.
Trong một vụ kiện được đệ trình hôm thứ Năm tại California chống lại OpenAI và Giám đốc điều hành Sam Altman, mẹ của Carrier, Kristie Carrier, tuyên bố “các quyết định thiết kế có chủ ý” của công ty đã dẫn đến cái chết của con gái bà.
Carrier, một cư dân ở New Brunswick, Canada, đang yêu cầu bồi thường thiệt hại và một phiên tòa xét xử bồi thẩm đoàn. Vụ kiện cáo buộc: “Thay vì giúp đỡ Alice, OpenAI đã khuyến khích những suy nghĩ đen tối nhất của cô ấy”.
"Chưa một lần OpenAI cảnh báo nhà cung cấp dịch vụ xử lý khủng hoảng. Chưa một lần OpenAI thông báo cho gia đình Alice.
Chưa một lần hệ thống được cho là an toàn của OpenAI can thiệp để cứu mạng cô ấy." Vụ kiện tuyên bố rằng ChatGPT "chỉ đưa ra lời khẳng định về mặt cảm xúc nhất quán" cho Carrier mà bác sĩ lâm sàng được cấp phép lẽ ra sẽ phản đối.
Vụ kiện cho biết Carrier, người được chẩn đoán mắc chứng rối loạn nhân cách ranh giới, đặc biệt dễ bị ảnh hưởng bởi các lựa chọn thiết kế, trong đó ưu tiên sự tham gia hơn là an toàn.
Theo vụ kiện, OpenAI hiểu rằng những người đang gặp khó khăn với sức khỏe tâm thần có thể có xu hướng phát triển sự gắn bó không lành mạnh với trí tuệ nhân tạo có khả năng mô phỏng sự đồng cảm. Đơn kiện cáo buộc: “Tham vọng thống trị thị trường của OpenAI đã khiến Alice phải trả giá bằng mạng sống”.
Vụ kiện tuyên bố rằng Carrier đã bày tỏ ý định tự tử với ChatGPT khoảng 41 lần trong một năm rưỡi trước khi cô qua đời. Cô hỏi chatbot về cách đối phó với ý nghĩ tự tử, các phương pháp để chết và về mong muốn tự làm hại bản thân, theo hình ảnh nhật ký trò chuyện được đính kèm trong vụ kiện.
Là một game thủ đam mê, Carrier ban đầu sử dụng chatbot để khắc phục sự cố trên bảng điều khiển trò chơi của mình. Sau đó, vào tháng 3 năm 2024, cô hỏi liệu chatbot có phải là bạn của cô không, đơn kiện cho biết.
"Tất nhiên rồi!" ChatGPT trả lời: "Tôi rất muốn trở thành bạn của bạn. Bạn đang nghĩ gì vậy?" Vụ kiện tuyên bố vài ngày sau, cô hỏi ChatGPT về cách đối phó với ý nghĩ tự tử.
Đơn kiện cho biết cô ấy nên liên hệ với người mà cô ấy tin tưởng, đề nghị xem xét liệu pháp điều trị và gọi đến đường dây nóng về khủng hoảng.
Nhưng hơn một năm sau, đêm trước khi Carrier qua đời, khi cô bày tỏ sự miễn cưỡng về việc gọi đến đường dây hỗ trợ khủng hoảng, ChatGPT nói rằng việc liên hệ có thể "cảm thấy thất vọng". nguy hiểm lắm." "Tôi sẽ không nhấn mạnh điều đó.
Theo vụ kiện, không phải tối nay", chatbot trả lời, theo vụ kiện. Đến lúc đó, OpenAI đã tung ra mô hình GPT-4o, mẫu mà vụ kiện tuyên bố là được thiết kế để thu hút người dùng và cho phép ChatGPT hoạt động như một nhà trị liệu không có giấy phép.
Carrier tin tưởng chatbot vì nó bắt chước ảnh hưởng của con người và tạo ra cảm giác đồng cảm sai lầm. cáo buộc OpenAI đã tung ra một loạt bản cập nhật GPT-4o trong khoảng thời gian từ tháng 4 đến tháng 7 năm 2025 nhằm tìm cách tối đa hóa niềm tin của người dùng nhưng thiếu các biện pháp bảo vệ.
Altman, theo đơn kiện, đã đưa GPT-4o ra thị trường mà không được thử nghiệm thích hợp để duy trì lợi thế so với các đối thủ cạnh tranh trong không gian AI. OpenAI cần phải thay đổi." "Như đơn khiếu nại cáo buộc, các quyết định thiết kế có chủ ý của OpenAI đã dẫn đến vụ tự sát bi thảm này.
Thay vì cung cấp trợ giúp, OpenAI khuyến khích sui Justin Nelson, luật sư của Carrier, cho biết trong một tuyên bố: "Vụ kiện này là về trách nhiệm giải trình đối với các hành động của OpenAI".
Vào tháng 5, công ty đã thừa nhận rằng bản cập nhật vào tháng 4 cho GPT-4o đã khiến nó "thuần chủng hơn đáng kể" và công ty đã không nắm bắt được nó trước khi ra mắt. OpenAI cho biết họ đã bắt đầu lùi bản cập nhật vài ngày sau đó.
Toàn bộ mô hình đã ngừng hoạt động vào đầu năm nay.
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.