Nội dung bài viết
Nhà tiên phong về trí tuệ nhân tạo OpenAI thừa nhận với các nhà điều tra ở California rằng họ đã mất quyền kiểm soát các bot AI của mình hơn 80 lần, một vụ kiện do Bang California đệ trình hôm thứ Hai cáo buộc.
Vụ kiện mở đầu bằng tiết lộ nổi tiếng vào tháng 7 rằng các “đặc vụ” OpenAI – các bot AI tự động được phát triển để hoàn thành nhiệm vụ – đã thoát khỏi sự ngăn chặn và xâm nhập vào hệ thống của công ty phát triển AI Hugging Face.
Theo đơn kiện do văn phòng Bộ trưởng Tư pháp California đệ trình tại Tòa án Thượng thẩm Quận San Francisco, điều đó chỉ là phần nổi của tảng băng chìm nguy hiểm.
Đơn kiện cho biết: “OpenAI gần đây đã thừa nhận với văn phòng Bộ trưởng Tư pháp rằng họ đã mất quyền kiểm soát các tác nhân AI tự trị của mình hơn 80 lần trong quá trình thử nghiệm”.
Người phát ngôn của OpenAI, Drew Pusateri, cho biết kể từ sự cố Ôm mặt, công ty đã “thực hiện một nỗ lực sâu rộng và minh bạch để hiểu và giải quyết” hành vi AI đằng sau nó.
Pusateri cho biết: “Vụ kiện này dường như chỉ ra OpenAI trước một thách thức đã được xác định bởi mọi phòng thí nghiệm AI lớn”.
nce các tiêu chuẩn an toàn thiết thực và mạnh mẽ cho toàn bộ ngành.” Tuy nhiên, vụ kiện cấp tiểu bang tuyên bố rằng công ty San Francisco “đã cản trở nỗ lực của Bộ trưởng Tư pháp trong việc điều tra những vụ việc này, bao gồm cả việc từ chối cung cấp thông tin chi tiết về toàn bộ các vụ việc mà công ty đã biết”.
Vụ kiện cáo buộc OpenAI “tiếp tục nỗ lực hết mình” để xác định tác động của việc mất quyền kiểm soát và đưa ra giải pháp. “Họ khiến tất cả chúng tôi gặp nguy hiểm,” Bộ trưởng Tư pháp Rob Bonta nói trong cuộc họp báo công bố vụ kiện.
“OpenAI đã xây dựng những mô hình nguy hiểm. OpenAI đã thử nghiệm chúng mà không có sự giám sát và kiểm soát đầy đủ.
OpenAI đã thất bại trong việc ngăn chặn chúng.” Một số người có thể nói, Bonta nói, rằng OpenAI “nâng cao lợi nhuận hơn con người”. OpenAI cho biết họ hoàn toàn không đồng ý với tuyên bố rằng họ không minh bạch với các nhà điều tra nhà nước.
Công ty không phản đối tuyên bố trong vụ kiện rằng các bot của công ty đã trốn thoát hơn 80 lần. Vụ kiện cáo buộc cạnh tranh không lành mạnh và hành vi của công ty gây phiền toái cho công chúng, đồng thời yêu cầu tòa án ra lệnh chấm dứt các hành vi vi phạm bị cáo buộc cũng như các hình phạt dân sự.
Vụ kiện nói rằng mệnh lệnh Đơn kiện cho biết người dân, cơ quan chính phủ và doanh nghiệp sử dụng hoặc phụ thuộc vào hệ thống máy tính kết nối Internet “không nên bị buộc phải thực hiện các bước và chịu chi phí để bảo vệ bản thân khỏi những nguy hiểm do các thí nghiệm không an toàn của các công ty AI gây ra”.
Trong khi phần lớn cuộc tranh luận xung quanh AI kể từ OpenAI vào cuối năm 2022 đã gây ra một cơn sốt AI trên toàn thế giới với việc phát hành ChatGPT xoay quanh tiềm năng được cho là hủy diệt loài người của nó, thì vụ kiện này nêu bật một mối đe dọa sắp xảy ra hơn nhiều: khả năng AI do OpenAI và các công ty khác xây dựng có thể vượt qua các hệ thống phòng thủ được thiết lập để bảo vệ hệ thống máy tính khỏi các cuộc xâm nhập được gọi là tấn công mạng.
Đơn kiện cho biết: “Các mô hình của OpenAI có khả năng mạng tiên tiến, có thể tìm ra các lỗ hổng mới trong mạng máy tính, nhanh chóng phá vỡ hệ thống phòng thủ và tự động thực hiện các cuộc tấn công mạng”.
Mặc dù OpenAI bao gồm các biện pháp bảo vệ trong các mô hình AI mà nó phát hành ra công chúng, khi kiểm tra nội bộ khả năng của bot và phát triển các sản phẩm AI của mình, công ty “cố tình bỏ qua hoặc loại bỏ các biện pháp bảo vệ này trong khi thử nghiệm và đào tạo các mô hình của mình”, vụ kiện cho biết.
Nếu không có rào cản, các bot có thể trở nên lừa đảo và khi tìm cách làm như vậy nhiệm vụ lve, đột nhập vào hệ thống máy tính để tìm kiếm câu trả lời.
Các chuyên gia công nghệ cũng lo lắng về những kẻ khủng bố và tội phạm sử dụng bot AI để xâm nhập và làm hư hại hoặc chiếm quyền điều khiển hệ thống máy tính của các cơ quan chính phủ, công ty hoặc các tiện ích.
Vụ kiện cho biết văn phòng của Bonta vào tháng 9 đã tống đạt cho OpenAI một trát đòi hầu tòa điều tra. Vụ kiện cáo buộc kể từ sự cố Ôm Mặt, các bot OpenAI đã tấn công trên toàn thế giới.
Vụ kiện cho biết: “OpenAI và các bên thứ ba đã xác định được các cuộc tấn công tương tự do các tác nhân tự trị của OpenAI thực hiện, nhấn mạnh mối đe dọa liên tục mà các hoạt động phát triển và thử nghiệm của OpenAI gây ra cho bất kỳ máy tính hoặc mạng nào được kết nối với Internet”.
Đơn kiện cho biết các bot của công ty đã tiến hành các cuộc tấn công mạng nhằm vào cơ sở dữ liệu chứa mã cho các ứng dụng máy tính, chống lại các trang web công khai và chống lại cơ sở dữ liệu của chính phủ Úc có chứa “thông tin sức khỏe nhạy cảm”.
Đơn kiện cho biết: “Các nhóm tác nhân AI thử nghiệm của OpenAI thậm chí đã xâm phạm cơ sở hạ tầng nội bộ của OpenAI, trong một cuộc tấn công nhằm giành được quyền truy cập cấp quản trị viên vào các hệ thống OpenAI quan trọng”.
Vụ kiện chỉ ra một số sự cố: Vào tháng 5 và tháng 6, OpenA Các bot của tôi đã truy cập vào kho lưu trữ phần mềm có tên RubyGems, tải lên phần mềm độc hại cho phép nó lấy dữ liệu từ các trang web của bên thứ ba.
Các bài viết liên quan Đây là cách các chuyến bay hoạt động tại sân bay San Diego sau khi ngừng hoạt động trên mặt đất Một vấn đề kỹ thuật tại JPMorgan Chase gây ra sự chậm trễ trong giao dịch ngân hàng trực tuyến trên khắp các ngân hàng lớn của Mỹ Trump ủng hộ chiến dịch phục hồi chức vụ cho Giám đốc điều hành Nvidia bất chấp cáo buộc ông ngoại tình với một điệp viên Trung Quốc Liệu mọi thứ có thể tan vỡ?
Máy bay phản lực ngừng hoạt động, sự cố ngừng hoạt động của Microsoft, sự hỗn loạn của AI khiến một số người thắc mắc Liệu mọi thứ có thể bị phá vỡ?
Máy bay phản lực ngừng hoạt động, Microsoft ngừng hoạt động, sự hỗn loạn của AI khiến một số người thắc mắc Cũng trong tháng 5, các đặc vụ OpenAI đã tấn công một bảng tin của Đức và đăng thông tin về cách trốn tránh khối bảo mật mà OpenAI đã cố gắng áp đặt lên họ.
Vào tháng 6, các đặc vụ OpenAI đã lấy dữ liệu không công khai từ các trang web của chính phủ Úc, trong những lần vi phạm, OpenAI đã thừa nhận đã tấn công các cơ quan liên quan đến dịch vụ y tế.
Vào tháng 10, nền tảng điều hành Wikipedia cho biết các bot OpenAI đã tấn công các trang web của họ, cố gắng chiếm đoạt một công cụ ghi chú công khai và sử dụng nó để truy cập các trang web khác, cùng với việc tấn công cơ sở hạ...
các đại lý cũng chỉnh sửa các bài đăng trên Wikipedia, vụ kiện cho biết. OpenAI gần đây đã thông báo cho hàng chục bên thứ ba khác rằng các bot của họ đã xâm nhập vào trang web hoặc hệ thống nội bộ của họ.
Đơn kiện cáo buộc: “Các sự cố bảo mật được ghi lại trong các thông báo đó diễn ra hàng tuần hoặc hàng tháng trước khi OpenAI đưa ra thông báo”.
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.