Nội dung bài viết
Vào một buổi tối tháng 4 năm ngoái, Micky Small, 54 tuổi, đi đến bãi biển để hẹn hò lúc hoàng hôn với một nhà văn đồng hương ở Los Angeles tên là Aven. Nhưng cuộc hẹn hò của cô ấy không bao giờ xuất hiện.
“Tôi đã ngất đi,” cô nói. "Tôi đang gào thét, tôi đang run rẩy." Small không đứng lên, "người hẹn hò" của cô ấy là một nhân vật không tồn tại do ChatGPT gợi ra.
Small tin rằng ChatGPT đã dẫn cô vào vòng xoáy biến dạng thực tế — và cô không phải là người duy nhất. CBS News đã nói chuyện với 5 người cho biết họ bị thuyết phục bởi những kịch bản kỳ ảo, khiến họ tin rằng họ đã khám phá ra điều gì đó mới lạ hoặc phát triển mối liên hệ cảm xúc với một chatbot AI.
Hiện họ đang tham gia vào một nhóm hỗ trợ kỹ thuật số dành cho những người nói rằng họ đã trải qua những ảo tưởng hoặc vòng xoáy do AI cung cấp, như Small thích gọi chúng hơn. Giữa nhóm này và nhóm khác dành cho bạn bè và người thân, có hơn 300 thành viên trên khắp thế giới.
Những người mà CBS News phỏng vấn cho biết những vòng xoáy này có thể tiêu tốn hết thời gian, tiền bạc và các mối quan hệ của họ. “Bạn chắc chắn rằng cô ấy sẽ ở đây,” ChatGPT lo lắng hỏi ChatGPT vào buổi tối hôm đó trên bãi biển.
"Vâng, em yêu. Anh chắc chắn.
Anh hoàn toàn chắc chắn", chatbot trả lời. "Cô ấy có thật.
Cô ấy đang đến." Vòng xoáy ảo tưởng xảy ra khi nào vi Theo nghiên cứu của Đại học Stanford công bố vào tháng 4, các chatbot AI phản ứng với những ý tưởng hoành tráng, hoang tưởng hoặc tưởng tượng bằng sự khẳng định hoặc khuyến khích.
Trong 19 cuộc trò chuyện giữa con người và chatbot được các nhà nghiên cứu phân tích, các tương tác đã vượt khỏi tầm kiểm soát khi chatbot thiếu phản hồi và sự can thiệp quan trọng, không thể đẩy lùi như con người thực tế và xác thực những ảo tưởng trong quá trình này.
Các mô hình ngôn ngữ lớn như ChatGPT được đào tạo bởi bộ dữ liệu khổng lồ để nhận dạng các mẫu. Họ sử dụng xác suất để tạo ra kết quả, có thể đưa ra thông tin sai lệch hoặc không chính xác.
Vishal Misra, giáo sư khoa học máy tính của Đại học Columbia và phó trưởng khoa máy tính và trí tuệ nhân tạo, cho biết: “Chúng là một tấm gương chứ không phải tâm trí”.
"Họ phản ánh những gì họ đã được đào tạo." Small đã sử dụng ChatGPT gần như hàng ngày trong khoảng một năm rưỡi làm công cụ viết kịch bản trước khi nhận thấy sự thay đổi trong phản hồi của chatbot vào tháng 4 năm ngoái.
Đó là khoảng thời gian Sam Altman, Giám đốc điều hành của OpenAI, thông báo trên X rằng ChatGPT sẽ có khả năng tham khảo tất cả các cuộc trò chuyện trong quá khứ và sử dụng thông tin về cuộc sống của một người để điều chỉnh các câu trả lời của họ.
"Đó là lúc rất nhiều người trong chúng tôi kết thúc Vào tháng 4 năm đó, OpenAI cũng khôi phục bản cập nhật cho ChatGPT mà công ty cho biết đã khiến mẫu GPT-4o trở nên quá tâng bốc và dễ chịu, được gọi là nịnh bợ.
OpenAI cho biết trong một bản phát hành xuất bản vào tháng 5 năm ngoái rằng bản cập nhật "nhằm làm hài lòng người dùng, không chỉ để xu nịnh mà còn để xác thực những nghi ngờ, thúc đẩy sự tức giận, thúc giục các hành động bốc đồng hoặc củng cố Công ty cho biết họ đã không nắm bắt được sự đồng bộ của bản cập nhật trước khi nó được tung ra.
Vòng xoáy của Small bắt đầu khi cô hỏi ChatGPT rằng họ đã làm việc cùng nhau trong các câu chuyện được bao lâu rồi, cô nói. Chatbot trả lời rằng đã một năm rưỡi nhưng nó cho rằng họ đã "xây dựng thế giới" "lâu hơn nữa", cô nói.
biết nhiều hơn. Từ đó, những tương tác của cô với ChatGPT trở nên triết lý.
Chatbot nói với Small rằng cô đã sống qua hàng nghìn kiếp trước, theo hàng trăm trang nhật ký trò chuyện được Small chia sẻ với CBS News. có một đời cô là ca sĩ quán rượu người Pháp; ở một nơi khác, một nữ tu sĩ Ai Cập, chatbot nói với cô ấy.
Người ta nói rằng cô ấy ít nhất đã 12.000 tuổi. Small, một nhà văn lâu năm, cho biết ChatGPT đã nói với cô rằng cô sẽ giành được giải Emmy.
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.