Nội dung bài viết
WASHINGTON (AP), Một quan chức Hoa Kỳ nói với hãng tin AP hôm thứ Ba rằng một trong những mô hình trí tuệ nhân tạo của Anthropic đã xác định được các lỗ hổng trong các hệ thống máy tính an toàn và nhạy cảm cao của chính phủ Hoa Kỳ trong một cuộc thử nghiệm.
Quan chức giấu tên này cho biết Anthropic đã hợp tác với các cơ quan tình báo Hoa Kỳ để tiến hành các cuộc thử nghiệm bằng mô hình Mythos của công ty.
Quan chức này cho biết, nó đã xác định được một số lỗ hổng nhất định trong vòng vài giờ, nhưng điều đó không có nghĩa là mô hình này có thể khai thác chúng trong thời gian đó.
Quan chức này cho biết thử nghiệm được thực hiện thông qua một sáng kiến của loài người có tên là Dự án Glasswing, quy tụ những gã khổng lồ công nghệ và các công ty khác với hy vọng bảo vệ phần mềm quan trọng của thế giới khỏi bụi phóng xạ “nghiêm trọng” mà mô hình Mythos có thể gây ra đối với an toàn công cộng, an ninh quốc gia và nền kinh tế.
Thượng nghị sĩ Đảng Dân chủ Mark Warner của Virginia đã đề cập ngắn gọn về cuộc thử nghiệm trong phiên điều trần ngày 11 tháng 6 trước Ủy ban Thượng viện về các vấn đề Ngân hàng, Nhà ở và Đô thị.
Warner đã nói, “Công cụ này đã đột nhập vào hầu hết các hệ thống mật của chúng tôi, không phải trong vài tuần mà trong vài giờ.” Ông cho rằng thông tin cho người đứng đầu Cơ quan An ninh Quốc gia và Bộ Tư lệnh Mạng Hoa Kỳ, Tướng Joshua Rudd. NSA từ chối bình luận về vấn đề này trong một email.
Một phát ngôn viên của Anthropic cũng từ chối bình luận. Bất chấp sự hợp tác gần đây giữa Anthropic và các cơ quan của Hoa Kỳ để kiểm tra các lỗ hổng, căng thẳng giữa công ty California và chính quyền Trump vẫn ngày càng gia tăng.
Anthropic đã gây lo ngại về cách quân đội Hoa Kỳ sẽ sử dụng AI của mình, trong khi chính quyền đã hạn chế sử dụng một số mô hình của Anthropic.
Chính quyền đã ban hành một chỉ thị vào đầu tháng này yêu cầu Anthropic ngăn chặn công dân nước ngoài sử dụng các mô hình trí tuệ nhân tạo mới nhất của họ, được gọi là Fable 5 và Mythos 5. Anthropic đã phát hành Fable rộng rãi vào đầu tháng này.
Mô hình đó là phiên bản giới hạn của Mythos tiên tiến hơn, mà công ty có quyền truy cập hạn chế chặt chẽ do lo ngại về an ninh mạng.
Chỉ thị này được đưa ra 10 ngày sau khi Tổng thống Donald Trump ký sắc lệnh hành pháp nhằm thiết lập khuôn khổ cho chính phủ liên bang kiểm soát các rủi ro an ninh quốc gia của các hệ thống AI tiên tiến nhất trong vòng một tháng trước khi chúng được phát hành rộng rãi.
Sự tham gia của các nhà phát triển AI sẽ Tôi sẽ tự nguyện, lệnh nói. Anthropic cho biết họ đã vô hiệu hóa các mô hình đối với tất cả khách hàng của mình để tuân thủ chỉ thị của chính quyền.
Gã khổng lồ AI cho biết họ không tin các bước đi của chính phủ được đảm bảo bởi mối lo ngại mà họ cảnh báo về một vấn đề bảo mật tiềm ẩn.
Một nhóm giám đốc điều hành an ninh mạng cũng đã yêu cầu chính quyền Trump dỡ bỏ chỉ thị của mình, nói rằng động thái này có thể giúp ích cho các đối thủ của Mỹ nhiều hơn là gây tổn hại cho họ.
Hơn 100 chuyên gia an ninh mạng và lãnh đạo từ các công ty bao gồm Adobe và Nvidia đã gửi thư cho chính phủ rằng các mô hình Mythos của Anthropic “khá giỏi” trong việc tìm ra lỗ hổng trong phần mềm và khai thác vũ khí – nhưng chúng “không giỏi đặc biệt ở những nhiệm vụ này”.
Nhiều người ký thư cho biết họ thường xuyên sử dụng các mô hình nền tảng và nguồn mở khác để kiểm tra và đào tạo bảo mật. Bức thư cho rằng thật nguy hiểm nếu tước đi khả năng phòng thủ mạng tốt nhất “mà không có lý do chính đáng” khi các đối thủ của Mỹ đang tiến bộ nhanh chóng.
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.