Nội dung bài viết
Một phiên bản của công cụ trí tuệ nhân tạo (AI) mà công ty cho là quá mạnh để có thể ra mắt công chúng vừa được ra mắt đại chúng.
Claude Fable 5 là phiên bản của Claude Mythos của Anthropic, một chương trình AI đã gây ra mối lo ngại nghiêm trọng trong giới lãnh đạo công nghệ, tài chính và chính phủ khi nó được phát hành riêng tư vào tháng 4 để xem trước và thử nghiệm.
Một số lo lắng rằng công cụ này mạnh đến mức có thể gây ra rủi ro về an ninh tài chính, trong khi những người khác lại đặt câu hỏi về mức độ cường điệu hóa của chiêu trò tiếp thị.
Anthropic cho biết hôm thứ Ba Fable sẽ được phát hành với các biện pháp bảo vệ và hạn chế người dùng, mặc dù họ cho biết "việc phát hành một mô hình có khả năng này đi kèm với rủi ro". Nó nói thêm: “Khả năng của Fable vượt xa khả năng của bất kỳ mô hình nào mà chúng tôi từng cung cấp rộng rãi”.
Khi Mythos lần đầu tiên được phát hành cho một nhóm nhỏ các tổ chức để xem trước công cụ, Anthropic cho biết họ làm như vậy vì công cụ này quá thông minh đến mức có thể nguy hiểm vì khả năng khai thác hoặc hack hệ thống máy tính.
Bộ trưởng Tài chính Canada François-Philippe Champagne nói với BBC vào tháng 4 rằng sự chú ý đến Mythos là có lý, một phần vì "đó là điều chưa biết, chưa biết".
Trong khi đó, des Trước vụ kiện đang diễn ra của Anthropic chống lại Bộ Quốc phòng Hoa Kỳ về việc họ từ chối chấp nhận việc chính phủ sử dụng các công cụ AI của mình, các cơ quan chính phủ Hoa Kỳ cũng đang thử nghiệm Mythos.
Anthropic dự kiến sẽ sớm trở thành công ty đại chúng vì mức định giá tư nhân của nó đã đạt gần 1 nghìn tỷ USD (747 tỷ bảng Anh). Việc liên tục thể hiện khả năng AI tốt hơn và rộng hơn sẽ nhấn mạnh giá trị của nó đối với các nhà đầu tư.
Công ty cũng cho biết hôm thứ Ba rằng khoảng 150 nhóm đã được cấp quyền truy cập vào bản xem trước Mythos giờ đây sẽ có quyền truy cập vào Claude Mythos 5, vốn không có giới hạn về an ninh mạng hoặc sinh học, tùy thuộc vào mục đích sử dụng cụ thể của tổ chức.
Đến nay, các nhóm và công ty sử dụng Mythos đã báo cáo cho Anthropic tìm thấy hơn 10.000 lỗi bảo mật nghiêm trọng trong hệ thống của họ.
Anthropic cho biết quyền truy cập cập nhật chỉ giới hạn ở một “nhóm nhỏ những người bảo vệ mạng và nhà cung cấp cơ sở hạ tầng” nhưng dự kiến sẽ sớm vượt xa điều đó. Công ty cho biết: “Chúng tôi dự định mở rộng quyền truy cập vào Mythos 5 thông qua chương trình truy cập đáng tin cậy rộng hơn”.
Cả Fable và Mythos, về cơ bản là cùng một mô hình nhưng có các biện pháp bảo vệ và mức độ truy cập khác nhau, có thể hoạt động "không cần giám sát" theo lệnh của con người mà ools được cung cấp trong thời gian dài hơn "so với bất kỳ mẫu Claude nào trước đây." Nhân chủng học được thêm vào.
Người đồng sáng lập Anthropic Jack Clark tuần trước đã nói với BBC Newsnight rằng khả năng của các công cụ AI đang mở rộng nhanh chóng đến mức công ty nghĩ rằng nên có cách nào đó để công chúng làm chậm sự tiến bộ của công nghệ.
Clark nói: “Bạn muốn tùy chọn có thể nhấc chân ga và đặt chân lên phanh”. “Hiện tại, ngành công nghiệp AI giống như có bàn đạp ga nhưng lại không có bàn đạp phanh”.
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.