Nội dung bài viết
Anthropic đã đình chỉ mô hình AI mới mạnh mẽ của mình sau khi chính quyền Mỹ đưa ra quan ngại về an ninh chỉ vài ngày sau khi phát hành rộng rãi.
Trong một tuyên bố đăng trên trang web của mình, Anthropic cho biết họ đã được lệnh đình chỉ công dân nước ngoài sử dụng Claude Fable 5, một chương trình mà công ty tự mô tả là "quá mạnh mẽ".
Công ty viết: “Hiệu quả thực sự của lệnh này là chúng tôi phải đột ngột vô hiệu hóa Fable 5 và Mythos 5 đối với tất cả khách hàng của mình để đảm bảo tuân thủ”.
Anthropic và chính quyền Trump đang tham gia vào một vụ kiện riêng đang diễn ra về lệnh ngăn chặn các cơ quan chính phủ sử dụng các công cụ AI của công ty. BBC đã tiếp cận Bộ Thương mại Hoa Kỳ để bình luận.
Claude Fable 5 là phiên bản của Claude Mythos của Anthropic, một chương trình AI cạnh tranh với các đối thủ ChatGPT của OpenAI và Gemini của Google. Anthropic cho biết cơ quan an ninh quốc gia Mỹ chưa xác định được mối lo ngại cụ thể.
Công ty cho biết: “Chúng tôi hiểu rằng chính phủ tin rằng họ đã biết về một phương pháp vượt qua hoặc 'bẻ khóa' Fable 5". Bẻ khóa là một quá trình vượt qua các hạn chế phần mềm được thiết kế để bảo vệ mạng mạng, cho phép tin tặc truy cập thông tin nhạy cảm ion hoặc bỏ chặn các tính năng.
Anthropic cho biết: “Chúng tôi đã xem xét trình diễn kỹ thuật cụ thể này đang được sử dụng để xác định một số lượng nhỏ các lỗ hổng nhỏ đã biết trước đó”.
“Tất cả các lỗ hổng này đều có vẻ tương đối đơn giản và chúng tôi nhận thấy rằng các mô hình công khai khác cũng có thể phát hiện ra chúng mà không cần bỏ qua.” Trước khi phát hành Claude Fable 5, công ty đã giới thiệu nhiều "biện pháp bảo vệ" khác nhau mà họ đã triển khai để ngăn chặn hoạt động tấn công mạng.
Các nhà lãnh đạo tài chính, công nghệ và chính phủ đã bày tỏ lo ngại về việc triển khai công khai, sau khi phát hành riêng tư vào tháng 4 để xem trước và kiểm tra các lỗ hổng trong hệ thống của chính họ.
Anthropic cho biết nó cho phép một số tổ chức có quyền truy cập trước khi phát hành vì công cụ này quá thông minh đến mức có thể nguy hiểm do khả năng khai thác hoặc hack hệ thống máy tính.
Công ty tự tuyên bố rằng họ "quá mạnh để phát hành" trước khi Claude Fable 5 được phát hành công khai, điều mà một số nhà phê bình nghi ngờ là sự cường điệu quá mức và chiêu trò tiếp thị.
Công ty cho biết: “Khả năng của Fable vượt xa khả năng của bất kỳ mẫu máy nào mà chúng tôi từng cung cấp rộng rãi”. Liên minh châu Âu đã có được quyền truy cập vào Mytho Vào đầu tháng 6, sau nhiều tuần đàm phán, cho biết diễn biến mới nhất càng nhấn mạnh "nhu cầu chủ quyền công nghệ của châu Âu".
Thomas Regnier, phát ngôn viên của Ủy ban châu Âu, cho biết: “Chúng tôi lưu ý đến tuyên bố của Anthropic và đang đánh giá”. Ủy ban này trong tháng này đã công bố các biện pháp nhằm cắt giảm sự phụ thuộc của khối 27 quốc gia vào Mỹ và châu Á đối với các công nghệ chủ chốt, bao gồm cả AI.
Gina Neff, Giáo sư về AI có trách nhiệm tại Đại học Queen Mary London, nói với BBC rằng quyết định hạn chế quyền truy cập vào mô hình có thể hạn chế sự phát triển và thử nghiệm an toàn của các hệ thống AI này.
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.