Nội dung bài viết
Thỏa thuận này diễn ra vài ngày sau khi Lầu Năm Góc công bố thỏa thuận với 7 gã khổng lồ công nghệ để sử dụng AI trong các hệ thống mật.
Những gã khổng lồ công nghệ Microsoft, Google và xAI cho biết họ sẽ cho phép chính phủ liên bang Hoa Kỳ truy cập vào các mô hình trí tuệ nhân tạo mới của họ để thử nghiệm an ninh quốc gia.
Trung tâm Tiêu chuẩn và Đổi mới AI (CAISI) tại Bộ Thương mại đã công bố thỏa thuận vào thứ Ba trong bối cảnh ngày càng có nhiều lo ngại về khả năng mà mô hình Mythos mới được công bố của Anthropic có thể mang lại cho tin tặc.
Theo thỏa thuận mới, chính phủ Mỹ sẽ được phép đánh giá các mô hình trước khi triển khai và tiến hành nghiên cứu để đánh giá khả năng cũng như rủi ro bảo mật của chúng.
Thỏa thuận này thực hiện cam kết mà chính quyền của Tổng thống Mỹ Donald Trump đưa ra vào tháng 7 là hợp tác với các công ty công nghệ để kiểm tra các mô hình AI của họ nhằm phát hiện “rủi ro an ninh quốc gia”.
Microsoft sẽ hợp tác với các nhà khoa học của chính phủ Hoa Kỳ để thử nghiệm các hệ thống AI “theo cách thăm dò các hành vi bất ngờ”, công ty cho biết trong một tuyên bố.
Công ty cho biết họ sẽ cùng nhau phát triển các bộ dữ liệu dùng chung và quy trình làm việc để thử nghiệm các mô hình của công ty. Microsoft đã ký một thỏa thuận tương tự với AI Se của Vương quốc Anh Viện Curity, theo tuyên bố.
Mối lo ngại đang gia tăng ở Washington về những rủi ro an ninh quốc gia do các hệ thống AI mạnh mẽ gây ra.
Bằng cách đảm bảo quyền truy cập sớm vào các mô hình biên giới, các quan chức Mỹ đang hướng tới xác định các mối đe dọa từ tấn công mạng đến lạm dụng quân sự trước khi các công cụ này được triển khai rộng rãi.
Sự phát triển của các hệ thống AI tiên tiến, bao gồm cả Mythos của Anthropic, trong những tuần gần đây đã tạo ra sự chấn động trên toàn cầu, bao gồm cả các quan chức Hoa Kỳ và các tập đoàn Mỹ, về khả năng tăng cường sức mạnh cho tin tặc.
Giám đốc CAISI Chris Fall cho biết trong một tuyên bố: “Khoa học đo lường độc lập, nghiêm ngặt là điều cần thiết để hiểu được AI tiên phong và ý nghĩa an ninh quốc gia của nó”.
Động thái này được xây dựng dựa trên các thỏa thuận năm 2024 với OpenAI và Anthropic dưới sự điều hành của Tổng thống Joe Biden khi CAISI còn được gọi là Viện An toàn Trí tuệ Nhân tạo Hoa Kỳ. Dưới thời Biden, viện tập trung phát triển các bài kiểm tra AI, định nghĩa và tiêu chuẩn an toàn tự nguyện.
Nó được dẫn dắt bởi cố vấn công nghệ của Biden, Elizabeth Kelly, người đã gia nhập Anthropic, theo hồ sơ LinkedIn của cô ấy. CAISI, nơi đóng vai trò là trung tâm thử nghiệm mô hình AI chính của chính phủ, cho biết họ đã hoàn thành nhiều hơn nữa.
hơn 40 đánh giá, bao gồm cả các mô hình tiên tiến chưa được cung cấp cho công chúng. Cơ quan này cho biết, các nhà phát triển thường xuyên bàn giao các phiên bản mô hình của họ với các thanh chắn an toàn được tháo ra để trung tâm có thể thăm dò các rủi ro an ninh quốc gia.
xAI đã không trả lời ngay lập tức yêu cầu bình luận. Google từ chối bình luận.
Tại Phố Wall, cổ phiếu của Microsoft đã giảm 0,6% trong phiên giao dịch giữa trưa ngay sau thông báo này. Mặt khác, Alphabet, công ty mẹ của Google, lại có xu hướng ngược lại.
Cổ phiếu đã tăng 1,3 phần trăm. xAI không được giao dịch công khai.
Các thông báo này tuân theo thỏa thuận giữa Lầu Năm Góc và bảy công ty công nghệ lớn – Google, Microsoft, Amazon Web Services, Nvidia, OpenAI, Reflection và SpaceX – để sử dụng hệ thống AI của họ trên các mạng máy tính được phân loại.
Bộ Quốc phòng cho biết thỏa thuận sẽ cung cấp nguồn lực của họ để giúp “tăng cường việc ra quyết định của chiến binh trong môi trường hoạt động phức tạp”.
Đáng chú ý vắng mặt trong danh sách là công ty AI Anthropic sau tranh chấp công khai và đấu tranh pháp lý với chính quyền Trump về đạo đức và sự an toàn của việc sử dụng AI trong chiến tranh.
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.