Nội dung bài viết
Các bài đăng từ chủ đề này sẽ được thêm vào thông báo email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn. Các bài đăng từ chủ đề này sẽ được thêm vào thông báo email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
AI đang tăng tốc đáng kể hoạt động nghiên cứu của Anthropic, ngay cả khi công ty kêu gọi giảm tốc độ phát triển AI. AI đang tăng tốc đáng kể hoạt động nghiên cứu của Anthropic, ngay cả khi công ty kêu gọi giảm tốc độ phát triển AI.
Các bài đăng của tác giả này sẽ được thêm vào thông báo email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn. Các bài đăng của tác giả này sẽ được thêm vào thông báo email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Anthropic đang sử dụng AI để xây dựng AI mạnh mẽ hơn. Và nó dường như đang hoạt động rất tốt, với các mô hình của công ty cải thiện nhanh gấp đôi so với một năm trước mà không có dấu hiệu chậm lại.
Đó là theo một báo cáo mới được công bố hôm thứ Năm bởi tổ chức nghiên cứu an toàn AI METR, sau cuộc điều tra kéo dài 11 tuần bên trong công ty, như một phần của báo cáo đánh giá hoạt động nghiên cứu và phát triển AI của họ.
Cuộc thăm dò này tách biệt với một chương trình cung cấp cho các nhà nghiên cứu an toàn quyền truy cập “giống như nhân viên” vào các hệ thống sau các vụ hack nổi tiếng trong mùa hè.
Những phát hiện này cung cấp một số bằng chứng rõ ràng bằng chứng đầu tiên về việc AI đang tăng tốc sự phát triển của chính nó, đặt ra câu hỏi về việc công nghệ này có thể tiến bộ nhanh đến mức nào trong tương lai, trong đó các hệ thống AI có thể tự cải thiện mà không cần hoặc có rất ít sự tham gia của con người.
Chúng cũng đến vào thời điểm then chốt đối với Anthropic, công ty đang chuẩn bị IPO ngay cả khi Giám đốc điều hành của nó, Dario Amodei, đã công khai kêu gọi các phòng thí nghiệm hạn chế phát triển AI.
Nhưng trong khi báo cáo cung cấp một cái nhìn thoáng qua hiếm hoi về hoạt động bên trong của các phòng thí nghiệm AI hàng đầu thế giới, thì những gì nó bỏ qua cũng tiết lộ nhiều điều.
Anthropic được phép biên tập lại các phần của báo cáo cuối cùng như một phần trong thỏa thuận với METR và dường như họ đã thực thi quyền lực đó một cách tự do, đặt ra câu hỏi về mức độ công chúng thực sự biết về tốc độ, và rủi ro, của quá trình phát triển AI biên giới.
Một trong những phát hiện đáng chú ý nhất của METR là các mô hình AI của Anthropic đang cải thiện nhanh gấp đôi so với một năm trước, với điểm chuẩn cho thấy “Anthropic đã đạt được tiến bộ lịch sử trong khoảng hai năm qua”.
Điều quan trọng là các nhà nghiên cứu của METR cho biết họ “tin tưởng” rằng sự tăng tốc không chỉ đơn giản là do tăng cường sức mạnh tính toán được sử dụng để đào tạo. n các mô hình mà trong lịch sử đã từng là động lực chính cho sự phát triển của AI.
Thay vào đó, các nhà nghiên cứu cho biết phần lớn sự tăng tốc tính đến tháng 10 “là do AI”, với sự đóng góp của nó ngày càng tăng theo thời gian.
Phát hiện đó được hỗ trợ bởi các cuộc thăm dò không chính thức của Slack và các cuộc phỏng vấn với nhân viên của Anthropic, cho thấy năng suất tăng đáng kể.
METR viết rằng trung bình, những nhân viên sử dụng mô hình nội bộ có năng lực nhất của Anthropic tự báo cáo rằng công việc tương ứng của họ đạt năng suất cao gấp 12 lần so với khi không có sự hỗ trợ của AI, gấp đôi so với những gì nhân viên đã báo cáo chỉ vài tháng trước đó khi sử dụng Mythos 5.
Hiện tại, phần lớn sự tăng tốc đó dường như đến từ AI hỗ trợ các nhà nghiên cứu con người, thay vì AI hoạt động độc lập, mặc dù METR cảnh báo rằng “có một số dấu hiệu cho thấy những đóng góp hoàn toàn tự chủ sẽ sớm đóng một vai trò lớn hơn”.
Đáng chú ý, các nhà nghiên cứu cho biết họ không tìm thấy dấu hiệu rõ ràng nào về việc lợi nhuận giảm dần hoặc các nút thắt có thể quan sát được có thể ngăn cản “sự tăng tốc thậm chí còn nhanh hơn”.
Các nhà nghiên cứu của Anthropic đang sử dụng các mô hình AI tiên tiến hơn phần còn lại của chúng ta, với rất nhiều khả năng tăng tốc và tăng năng suất được METR mô tả là nhờ vào cho các mô hình nội bộ chưa được phát hành.
Theo METR, trong sáu tháng qua, Anthropic đã hoàn thành việc đào tạo ba mô hình mà họ vẫn chưa phát hành. Tốc độ phát triển nhanh chóng, với các mô hình – có tên mã là Model 2, Model 3 và Model 4 – lần lượt hoàn thành khóa đào tạo vào tháng 7, tháng 8-tháng 9 và tháng 9-tháng 10.
Các nhà nghiên cứu viết: “Đây là những tên mã được chia sẻ với chúng tôi; chúng tôi hiểu rằng chúng có những tên mã nội bộ khác nhau”.
Anthropic đã cấp cho METR quyền truy cập vào một loạt thông tin không công khai, bao gồm nghiên cứu bí mật, dữ liệu hiệu suất mô hình và các cuộc phỏng vấn nhân viên như một phần của quá trình nghiên cứu.
Họ không có nghĩa vụ phải làm như vậy và theo sự thừa nhận của chính METR, phòng thí nghiệm AI “đã chia sẻ nhiều thông tin hơn dự kiến ban đầu cho dự án này, vượt qua sự mong đợi của chúng tôi”.
Điều này thật đáng khen ngợi, nhưng cần lưu ý rằng Anthropic đã không cấp cho các nhà nghiên cứu quyền truy cập không hạn chế, cũng như loại quyền truy cập “giống như nhân viên” mà nó đã hứa với các nhà nghiên cứu an toàn METR khác như một phần của chương trình riêng biệt được công bố vào tháng trước.
Đây là một sự khác biệt quan trọng vì lợi ích danh tiếng mà các công ty có thể đạt được từ các đánh giá độc lập, ngay cả khi chúng đi kèm với những hạn chế đáng kể. Và có những hạn chế đáng kể.
Anthropic có quyền biên tập lại thông tin từ báo cáo cuối cùng của METR, và nó đã sử dụng quyền lực đó một cách rộng rãi. METR viết trên X: "Chúng tôi đã gửi báo cáo đầy đủ dài ~ 100 trang về đánh giá của mình cho Anthropic.
Đối với phiên bản công khai, Anthropic đã biên soạn lại phần lớn bằng chứng mà chúng tôi thấy có nhiều thông tin nhất". “Đường dẫn thông tin của chúng tôi tương đối hẹp và một số ít yêu cầu về dữ liệu của chúng tôi đã bị từ chối.”
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.