Nội dung bài viết
Anthropic gần đây đã ngừng hoạt động hai mô hình AI mới nhất của mình do lệnh kiểm soát xuất khẩu từ chính quyền Trump, gây ra các cuộc tranh luận rộng rãi về chính sách AI và chủ quyền kỹ thuật số.
Trong tập mới nhất của podcast Equity của TechCrunch, Sean O’Kane, Rebecca Bellan và tôi đã thảo luận về điều gì thực sự đã thúc đẩy chính quyền có động thái chống lại Anthropic và điều này có thể có ý nghĩa gì đối với hệ sinh thái AI rộng lớn hơn.
Như Sean đã nói, “Anthropic chưa có mối quan hệ tốt nhất với chính quyền Trump theo cách khác biệt so với các phòng thí nghiệm AI hàng đầu khác”, vì vậy có lẽ các đối thủ khác của Anthropic không cần phải lo lắng về một cuộc đàn áp tương tự.
Nhưng Rebecca cũng lưu ý rằng các chuyên gia an ninh mạng hàng đầu đã “ký một bức thư ngỏ yêu cầu Trump thu hồi lệnh và họ nói rằng việc phải rút các khả năng an ninh mạng tiên tiến này khỏi các nhà bảo vệ mạng ở Hoa Kỳ thực sự nguy hiểm”.
Và chúng tôi tự hỏi liệu điều này có thể trở thành sự quảng cáo tốt cho Anthropic hay không, đặc biệt là vì, theo cách nói của Rebecca, “mọi người đều yêu thích một cậu bé hư”. Hãy tiếp tục đọc để xem trước cuộc trò chuyện của chúng tôi, đã được chỉnh sửa để có độ dài và rõ ràng.
Rebecca Bellan: Tôi chắc rằng nhiều thính giả của chúng ta đã biết, chính phủ Hoa Kỳ Về cơ bản, nó chỉ buộc Anthropic ngừng hoạt động hai mẫu mới nhất của mình, Fable 5, và sau đó còn có Mythos 5, mẫu dành cho người dùng Mythos hiện tại, [trong khi] Fable 5 đã có sẵn cho công chúng nhiều hơn.
Họ đã gửi một lá thư vào thứ Sáu tuần trước với lý do “những lo ngại về an ninh quốc gia”. Không ai biết những lo lắng đó là gì.
Báo cáo đó chưa được công bố, họ không đưa ra thông tin cụ thể và nói với [Anthropic] rằng họ phải đảm bảo rằng những mô hình đó không được sử dụng bởi bất kỳ công dân nước ngoài nào.
Vì vậy, Anthropic đã nói, "Được rồi, tôi đoán chúng ta phải loại bỏ hoàn toàn các mô hình, bởi vì chúng tôi không biết khi nào ai đó là người nước ngoài.
Rất nhiều nhân viên của chúng tôi là người nước ngoài." Nhưng thực sự, [các báo cáo cho biết] Nhà Trắng đã biết được điều này vì một số nhà nghiên cứu của Amazon được cho là đã tìm ra cách vượt qua hàng rào bảo vệ của Fable 5.
Giám đốc điều hành Amazon Andy Jassy đã nêu ra những lo ngại này với Nhà Trắng và mọi chuyện cứ thế diễn biến theo chiều hướng xoắn ốc từ đó. Sean O'Kane: Tất cả điều này diễn ra rất nhanh, đặc biệt là từ chiều thứ Sáu đến cuối tuần.
Và cùng lúc đó, chính quyền dường như đang cố gắng đàm phán một loại hiệp ước nào đó cho cuộc chiến mà họ đã bắt đầu ở Iran. Rebecca: Tối thứ sáu cho chúng tôi ở New York.
Họ thích sự xao lãng. Sean: Chúng ta hãy lùi lại thật xa một lát.
Anthropic đã không có mối quan hệ tốt nhất với chính quyền Trump theo cách khác biệt so với các phòng thí nghiệm AI hàng đầu khác, tôi nghĩ ít nhất có một yếu tố nào đó đang diễn ra ở đây. Vậy bạn có nghĩ rằng điều này sẽ có ý nghĩa đối với những công ty khác không?
Bạn có nghĩ rằng chính quyền Trump sẽ ít có xu hướng tắt vòi đối với một trong những đối thủ cạnh tranh đó không? Anthony Hà: Một phần bối cảnh ở đây là cả báo cáo và phân tích từ các chuyên gia bảo mật độc lập đều cho thấy rằng rủi ro bảo mật thực tế từ Anthropic không phải là duy nhất.
Vì vậy, phần lớn điều này dường như xuất phát từ các bộ phận trong chính quyền Trump và Anthropic chỉ [không hòa hợp] với nhau cho lắm. Dù có rủi ro gì đi chăng nữa, những điều đó sẽ bùng nổ không cân xứng chỉ vì có vẻ như họ không thể gọi điện thoại dân sự với nhau.
Nếu bạn là một công ty khác, một mặt, điều đó có thể có lợi cho bạn, bởi vì bạn có thể nói, "Chà, chúng tôi không khiến những người này nổi giận với chúng tôi và chúng tôi có thể làm những gì chúng tôi muốn." Nhưng đó cũng không phải là bối cảnh pháp lý tuyệt vời o chỉ [nói], “Cậu bé, tôi hy vọng họ không giận chúng ta.” Rebecca: Một mặt, nó chắc chắn mang lại cảm giác trả đũa, sau khi chính phủ coi Anthropic là rủi ro trong chuỗi cung ứng, có một vụ kiện lớn đang diễn ra giữa họ, có cảm giác như Nhà Trắng chỉ đang tìm mọi lý do để dồn ép Anthropic.
Và tôi cảm thấy như vậy không chỉ vì đó là phản ứng ban đầu của tôi mà còn vì những gì nhiều nhà nghiên cứu an ninh mạng đã nói. Họ nói rằng điều này lẽ ra không bao giờ kích hoạt [đơn đặt hàng] kiểm soát xuất khẩu.
Tất cả họ đều đã ký một bức thư ngỏ để yêu cầu Trump thu hồi lệnh và họ nói rằng thực sự nguy hiểm khi phải rút các khả năng an ninh mạng tiên tiến này khỏi các nhà bảo vệ mạng ở Hoa Kỳ. Bản thân Anthropic cho biết một số bản bẻ khóa tương tự có thể đã được tìm thấy trong một số mô hình AI khác.
Một cách hoài nghi, nó giống như: Được rồi, bạn chỉ đang tạm dừng Anthropic để những người khác có thể bắt kịp vị trí của Anthropic phải không? Nhưng đồng thời, tôi cũng thấy những phản ứng [nói]: Kiểu nhân loại sắp xảy ra chuyện này.
Họ nói, "Cái này quá nguy hiểm cho bất cứ ai sử dụng, nhưng không phải chúng tôi, chúng tôi là những người tốt." Họ đang nói bằng cả hai bên miệng. Một tuần trước khi Fable ra mắt, chúng tôi lại [saying], "Này, chúng ta cần làm chậm AI lại, các bạn.
Nó đang trở nên thực sự nguy hiểm." Nhưng sau đó bùng nổ, "Đây là mô hình siêu mạnh mẽ, điên rồ nhất từ trước đến nay của chúng tôi, hãy phát hành đi."
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.