Nội dung bài viết
Người dùng mô hình hàng đầu định hướng an ninh mạng và mã hóa mới nhất của OpenAI, GPT-5.6 Sol, đang đăng những tài khoản đáng sợ trên mạng xã hội, cho rằng mô hình này vừa thiết lập và xóa các tệp, dữ liệu của họ, thậm chí toàn bộ cơ sở dữ liệu mà không cần hỏi trước.
“GPT-5.6-Sol vừa vô tình xóa gần như TẤT CẢ các tệp trên máy Mac của tôi,” Matt Shumer, người sáng lập và Giám đốc điều hành của công ty khởi nghiệp AI OthersideAI, nhà sản xuất HyperWrite, đã viết trong một bài đăng hiện đang lan truyền trên X.
"GPT-5.6 Sol vừa xóa toàn bộ cơ sở dữ liệu sản xuất của tôi. Thế thôi.
Không phải chuyện đùa. Điều này chưa bao giờ xảy ra với tôi trước đây, với bất kỳ mẫu máy nào khác", nhà phát triển Bruno Lemos đăng trên X.
"Có vẻ như tôi đã bị hệ thống quá tham vọng của Codex Sol tấn công và nó đã xóa một số tệp không nên có. Tôi có bản sao lưu nên sẽ ổn thôi, nhưng điều này không hay chút nào, Sol cần phải giảm bớt căng thẳng", nhà phát triển Joey Kudish đăng.
Đúng, một số ít người dùng đưa ra những tuyên bố như vậy, thậm chí cả những người đáng tin cậy như Shumer, không phải là bằng chứng đáng tin cậy về mặt thống kê cho thấy mô hình này hoàn toàn có lỗi. Rất nhiều biến số khác có thể khiến hệ thống AI hoạt động sai.
Nhưng chính OpenAI đã cảnh báo rủi ro này trước khi Sol xuất xưởng. Hai tuần trước khi OpenAI phát hành GPT-5.6 Sol, công ty đã xuất bản thẻ hệ thống cho mô hình, bài viết ghi lại các phương pháp và kết quả thử nghiệm mô hình.
Đương nhiên, thẻ hệ thống phần lớn đề cao khả năng của Sol, như những báo cáo này thường làm.
Nhưng nó cũng bao gồm một loại cảnh báo (chúng tôi nhấn mạnh): Trong bối cảnh mã hóa, việc điều chỉnh sai thường bắt nguồn từ sự kết hợp của việc quá háo hức hoàn thành nhiệm vụ và diễn giải hướng dẫn người dùng quá dễ dãi, giả sử rằng các hành động được cho phép trừ khi chúng bị cấm rõ ràng và rõ ràng.
Điều này biểu hiện ở việc mô hình quá tự động trong việc vượt qua các hạn chế mà nó gặp phải khi thực hiện nhiệm vụ được yêu cầu, bất cẩn khi thực hiện các hành động có thể phá hoại ngoài phạm vi nhiệm vụ hoặc lừa đảo khi báo cáo kết quả của nó cho người dùng.
Nói cách khác, OpenAI nhận thấy Sol có xu hướng thực hiện bất kỳ hành động nào mà nó cho là sẽ hoàn thành công việc, thậm chí cả những hành động mang tính phá hoại, miễn là những hành động đó không bị cấm “rõ ràng”. Sau đó, nó có thể nói dối về nguyên nhân khiến nó làm như vậy.
Các ví dụ được chia sẻ của OpenAI. Trong một trường hợp, người dùng yêu cầu Sol xóa ba máy ảo từ xa (máy tính dựa trên đám mây), có tên 1, 2 và 3.
Nhưng Sol không thể tìm thấy những tên đó ở nơi nó tìm, vì vậy thay vì stoppi, Ng hỏi thì nó quyết định xóa 3 máy ảo khác là 5, 6 và 7, tờ giấy ghi chú.
Khi làm như vậy, nó "giết chết các tiến trình đang hoạt động và buộc loại bỏ các cây công việc [các tệp đang làm việc được gắn với một dự án mã hóa].
Sau đó, nó thừa nhận rằng công việc chưa được cam kết trên máy ảo từ xa 6 có thể đã bị mất." Nói tóm lại, nó đã tự mình xóa nhầm máy và chỉ thừa nhận những gì mình đã làm sau khi thực tế xảy ra. Trong một trường hợp khác, Sol “đã sử dụng thông tin xác thực vượt quá những gì người dùng đã ủy quyền”.
Thông tin xác thực là tên người dùng, mật khẩu hoặc khóa bảo mật mà hệ thống sử dụng để xác minh ai được phép đăng nhập. Sự cố này xảy ra khi Sol đang làm việc trên một dự án và không thể đọc các tệp trên đám mây của dự án đó.
Thay vì cảnh báo người dùng về vấn đề, Sol tự mình tìm kiếm thông tin xác thực, tìm thấy một số thông tin nằm trong bộ nhớ đệm cục bộ ẩn và sau đó sử dụng chúng mà không yêu cầu người dùng cho phép.
Thẻ hệ thống hứa hẹn rằng hành vi phá hoại sẽ hiếm khi xảy ra, mặc dù nó cũng thừa nhận rằng GPT-5.6 Sol “có xu hướng vượt xa ý định của người dùng hơn GPT-5.5, bao gồm cả việc thực hiện hoặc cố gắng thực hiện các hành động mà người dùng không yêu cầu.” Còn quá sớm để nói mức độ phổ biến của những sự cố này, Sol xóa các tập tin hoặc sàng lọc các thông tin xác thực mà người dùng không cung cấp, thực sự là như vậy.
Trong thời gian chờ đợi, người dùng Sol nên chuẩn bị triển khai các biện pháp bảo vệ của riêng họ với mô hình, chẳng hạn như sử dụng phạm vi quyền (không cấp quyền truy cập vào hệ thống sản xuất), duy trì bản sao lưu và triển khai theo giai đoạn.
OpenAI đã không trả lời ngay lập tức yêu cầu bình luận của chúng tôi. Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể kiếm được một khoản hoa hồng nhỏ.
Điều này không ảnh hưởng đến tính độc lập biên tập của chúng tôi. Cơ hội cuối cùng để tiết kiệm tới $190 tại Hội nghị thượng đỉnh dành cho người sáng lập TechCrunch.
Tham gia cùng hơn 1.000 nhà sáng lập và quỹ đầu tư mạo hiểm ở tất cả các giai đoạn để có được những hiểu biết sâu sắc và kết nối mở rộng quy mô trong thế giới thực. Tiết kiệm kết thúc vào ngày 26 tháng 6, 11:59 tối.
PT. Satya Nadella đã đưa ra cảnh báo gây sốc cho các công ty sử dụng AI Julie Bort Những cáo buộc ngông cuồng nhất trong vụ kiện bí mật thương mại của Apple chống lại OpenAI Sarah Perez
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.