Nội dung bài viết
Công ty cho biết chính phủ Hoa Kỳ tin rằng các biện pháp bảo vệ có thể bị bỏ qua và sản phẩm được sử dụng để xác định các lỗ hổng phần mềm Anthropic cho biết họ sẽ “đột ngột vô hiệu hóa” các mô hình AI tiên tiến nhất của mình đối với tất cả người dùng sau khi chính phủ Hoa Kỳ ra lệnh đình chỉ quyền truy cập vào các mô hình này đối với công dân nước ngoài, với lý do lo ngại về an ninh quốc gia.
Anthropic cho biết trong một tuyên bố rằng công ty đã nhận được chỉ thị kiểm soát xuất khẩu nhằm đình chỉ quyền truy cập vào Fable 5 và Mythos 5 đối với tất cả công dân nước ngoài mà không được cung cấp thông tin chi tiết cụ thể về mối lo ngại an ninh quốc gia.
Công ty cho biết, Anthropic hiểu rằng chính phủ tin rằng có một phương pháp vượt qua hoặc "bẻ khóa", một biện pháp bảo vệ có thể ngăn Fable 5 được sử dụng để xác định các lỗ hổng phần mềm, công ty cho biết.
Lệnh này được đưa ra đúng lúc tranh chấp trước đó giữa các quan chức chính quyền Trump và Anthropic sắp IPO có dấu hiệu dịu bớt ở các bộ phận của chính phủ Hoa Kỳ.
Mối quan hệ của Anthropic với chính phủ đã rạn nứt trong năm nay sau khi họ từ chối cho phép quân đội Hoa Kỳ sử dụng các mô hình AI của mình để giám sát trong nước và hệ thống vũ khí tự động hoàn toàn.
Chính phủ phản ứng bằng cách đưa Anthropic vào danh sách đen của chuỗi cung ứng t, sẽ có hiệu lực vào cuối năm nay. Hành động này cũng đánh dấu sự leo thang lớn trong nỗ lực của Hoa Kỳ nhằm ngăn chặn khả năng AI của đối thủ nước ngoài.
Trong nhiều năm, các biện pháp kiểm soát xuất khẩu của Hoa Kỳ đã tập trung vào các con chip và công cụ hỗ trợ AI thay vì hạn chế quyền truy cập của nước ngoài vào chính AI. Anthropic cho biết chính phủ chỉ cung cấp cho họ “bằng chứng bằng lời nói về một cuộc bẻ khóa có phạm vi hẹp, không phổ biến”.
Công ty cho biết: “Chúng tôi không đồng ý rằng việc phát hiện một bản bẻ khóa có khả năng xảy ra trong phạm vi hẹp sẽ là nguyên nhân dẫn đến việc thu hồi một mô hình thương mại đã được triển khai cho hàng trăm triệu người”.
Chỉ thị của chính phủ và phản hồi của Anthropic nêu bật căng thẳng ngày càng tăng giữa các nhà phát triển AI và cơ quan quản lý về cách đánh giá rủi ro từ cái gọi là “bẻ khóa” hoặc các phương pháp được sử dụng để vượt qua các biện pháp bảo vệ mô hình.
Mới hôm thứ Tư, Anthropic đã kêu gọi Hoa Kỳ giám sát chặt chẽ hơn về AI, bao gồm khả năng chặn các mô hình có rủi ro không thể chấp nhận được. Tuy nhiên, họ cho biết hành động của chính phủ hôm thứ Sáu đã không tuân theo các nguyên tắc quy định công bằng và dựa trên thực tế.
Giám đốc thông tin của Lầu Năm Góc, Kirsten Davies, cho biết trong một bài đăng trên X rằng bộ quốc phòng ủng hộ việc ưu tiên an ninh quốc gia. “Có những điều thật đơn giản quan trọng hơn chu kỳ doanh thu, clickbait và định giá trước IPO.
Nước Mỹ đầu tiên. Luôn luôn," Davies nói.
Anthropic đã bí mật nộp đơn xin IPO tại Hoa Kỳ vào tháng trước, vượt lên trước đối thủ OpenAI trong cuộc đua tiếp cận thị trường đại chúng. Đầu tuần này, Anthropic đã tung ra một mô hình AI có tên Claude Fable 5, đại diện cho một cấp độ khả năng mới mà nó gọi là "Lớp Mythos".
Mô hình này đi kèm với các rào chắn cấm sử dụng nó trong các lĩnh vực rủi ro như an ninh mạng, mà một số người dùng phàn nàn là "quá rộng", Anthropic nói.
có thể tăng tốc đáng kể các cuộc tấn công mạng phức tạp, đặc biệt là trong các lĩnh vực như ngân hàng vốn dựa vào các hệ thống công nghệ phức tạp, liên kết với nhau và thường có tuổi đời hàng thập kỷ.
Anthropic cho biết họ đã làm việc với chính phủ Hoa Kỳ và các chính phủ khác về vấn đề an toàn trước khi ra mắt Fable và các mô hình từ các nhà cung cấp AI đối thủ đã cho thấy khả năng tương tự để phát hiện các lỗi nhỏ trong mã.
Quyền truy cập vào tất cả các mô hình Anthropic khác sẽ không bị ảnh hưởng”, Anthropic cho biết.
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.