Nội dung bài viết
Các bài đăng từ chủ đề này sẽ được thêm vào thông báo email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn. Các bài đăng từ chủ đề này sẽ được thêm vào thông báo email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Các bài đăng từ chủ đề này sẽ được thêm vào thông báo email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn. Các chuyên gia cảnh báo, việc quản lý AI thông qua các biện pháp can thiệp không rõ ràng, đặc biệt là không bền vững.
Các chuyên gia cảnh báo, việc quản lý AI thông qua các biện pháp can thiệp không rõ ràng, đặc biệt là không bền vững. Các bài đăng của tác giả này sẽ được thêm vào thông báo email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Các bài đăng của tác giả này sẽ được thêm vào thông báo email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Anthropic đã dành phần lớn thời gian trong tuần này để đấu tranh để đưa các mô hình AI mới nhất của mình hoạt động trở lại sau khi chính quyền Trump đột ngột ra lệnh cho công ty cắt quyền truy cập của tất cả công dân nước ngoài, bao gồm cả người dùng ở Hoa Kỳ và nhân viên của chính họ, buộc Anthropic phải chặn quyền truy cập vào Fable 5 và Mythos 5 cho tất cả mọi người.
“Theo hiểu biết của tôi, đây là lần đầu tiên các biện pháp kiểm soát xuất khẩu của Hoa Kỳ được sử dụng để kiểm soát quyền truy cập vào mô hình AI theo cách này.” Chính quyền Trump chưa công khai giải thích cơ sở pháp lý của lệnh này, ...
cơ quan an ninh" để biện minh cho "một chỉ thị kiểm soát xuất khẩu" trên các mô hình.
(Anthropic cũng tuyên bố rằng những lo ngại của chính phủ về một "bẻ khóa" có thể được sử dụng bởi các nhóm có liên kết với Trung Quốc để truy cập vào các mô hình của họ đã không cho phép người dùng phá vỡ tất cả các biện pháp bảo vệ của công ty.) Nhưng tại sao chính quyền lại sử dụng các quy tắc kiểm soát xuất khẩu để giải quyết vấn đề này?
Các chuyên gia cho biết sự việc này dường như chưa từng có, cho thấy một giai đoạn không chắc chắn và không ổn định trong quản trị AI. Và chính xác thì Anthropic sẽ xuất khẩu những gì?
(Công ty đã không trả lời The Verge). Theo thời gian, khuôn khổ này đã mở rộng để bao gồm ít hàng hóa hữu hình hơn, chẳng hạn như phần mềm, mã nguồn, dữ liệu kỹ thuật và thậm chí cả tệp súng in 3D.
Đây vẫn là những thứ riêng biệt có thể được sao chép, tải xuống, xuất bản hoặc bàn giao và lấy đi, không chỉ được sử dụng thông qua một dịch vụ từ xa như chatbot.
dữ liệu cốt lõi giúp mô hình hoạt động có thể được sao chép và chạy ở nơi khác, theo cách này; Ý tưởng này nhanh chóng bị chính quyền Trump từ bỏ trong nhiệm kỳ thứ hai. Trật tự nhân loại không phù hợp hoàn toàn với khuôn khổ này.
Không có quá trình chuyển giao rõ ràng nào đang diễn ra: Mythos và Fable vẫn được lưu trữ trên máy chủ của Anthropic và người dùng không nhận được mã nguồn, trọng số mô hình hoặc bản sao của mô hình mà thay vào đó nhận được phản hồi của chatbot cho các truy vấn của họ.
Việc xuất có thể là một số thông tin cụ thể do các mô hình tạo ra, nhưng không rõ tại sao điều đó lại yêu cầu vô hiệu hóa quyền truy cập vào toàn bộ hệ thống thay vì chỉ hạn chế một phần của hệ thống.
Bản thân nó cũng có thể là quyền truy cập, mặc dù quyền truy cập từ xa vào các dịch vụ đám mây là một lỗ hổng đã biết trong các chế độ kiểm soát xuất khẩu hiện tại, một lỗ hổng mà Quốc hội đang cố gắng thu hẹp thông qua đạo luật hiện đang được Thượng viện thông qua.
Hanna Dohmen, nhà phân tích nghiên cứu cấp cao tại Trung tâm An ninh và Công nghệ mới nổi của Đại học Georgetown, nói với The Verge rằng đây là “một câu hỏi mở” về việc liệu lệnh này có vi phạm các quy tắc hiện hành mà không nhìn thấy ngôn ngữ chính xác đằng sau nó hay không.
“Trong mọi trường hợp, quy định này khá đáng chú ý vì theo hiểu biết của tôi, đây là lần đầu tiên các biện pháp kiểm soát xuất khẩu của Hoa Kỳ được sử dụng để kiểm soát một loại hàng hóa.
tiếp cận mô hình AI theo cách này.” Andrew Reddie, giáo sư tại Trường Chính sách công Goldman của UC Berkeley, cho biết: “Nói rằng đây là một lĩnh vực chưa ổn định trong việc xây dựng quy tắc kiểm soát xuất khẩu sẽ là một cách đánh giá thấp.
Ông nói rằng các quy tắc kiểm soát xuất khẩu và các chế độ khác như quy định về vũ khí mang lại cho chính phủ “phạm vi rộng” để hạn chế quyền tiếp cận một số hàng hóa nhất định.
Tuy nhiên, ông nói: “Sự mập mờ của các chính quyền kế nhiệm về trách nhiệm của các nhà phát triển mô hình” đã khiến các công ty khó hiểu được những gì được mong đợi ở họ. Điều đó khiến ngành này bị ràng buộc.
Nếu Anthropic được nhắm mục tiêu vì Mythos và Fable có khả năng độc nhất, thì lệnh này sẽ đặt ra câu hỏi rõ ràng cho thế hệ mô hình tiếp theo từ OpenAI, Google, Meta, xAI và bất kỳ phòng thí nghiệm biên giới nào khác.
Nếu họ trở thành mục tiêu vì các vấn đề bảo vệ cụ thể, chính phủ cần vạch ra biện pháp bảo vệ mà họ cho là đủ. Và nếu Anthropic bị chỉ trích vì mối quan hệ không mấy tốt đẹp với chính quyền Trump, thì mệnh lệnh này càng trở nên khó hiểu hơn.
“Tình tiết này cho thấy rõ tính không bền vững của chế độ quản trị hiện tại.” Dù thế nào đi nữa, các chuyên gia cho rằng đây không phải là giải pháp bền vững Đây là cách để quản lý AI biên giới, đặc biệt nếu Hoa Kỳ muốn duy trì vị trí dẫn đầu trên toàn cầu.
Vụ việc đã đổ thêm dầu vào những lập luận rằng các chính phủ và công ty bên ngoài Hoa Kỳ nên cảnh giác về việc dựa vào các công ty Mỹ để tiếp cận các hệ thống quan trọng về mặt chiến lược.
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.