Nội dung bài viết
Người đồng sáng lập Anthropic Jack Clark đã kêu gọi khả năng làm chậm sự phát triển của trí tuệ nhân tạo (AI), cảnh báo công nghệ này đang tiến gần đến mức có thể phát triển mà không cần sự can thiệp của con người.
Clark nói với BBC Newsnight: “Bạn muốn tùy chọn có thể nhấc chân ga và đặt chân lên phanh”. “Hiện tại, ngành công nghiệp AI có bàn đạp ga nhưng lại không có bàn đạp phanh”.
Ông nhấn mạnh mọi người, thông qua chính sách của chính phủ, cần phải giữ quyền kiểm soát các hệ thống AI, hệ thống này sẽ ngày càng mạnh hơn và có tác động rộng hơn đến xã hội.
Ông nói: “Thế giới cần phải suy nghĩ một chút và cuối cùng chúng ta cần phát triển một số quy định mới cho phép chúng ta tin tưởng vào những hệ thống này”. Hiện tại, chatbot nổi tiếng của Anthropic Claude đang hoạt động dựa trên mã mà 80% hệ thống tự viết.
Clark cho biết, có thể đạt tới 100% trong vòng hai năm và "sẽ có ý nghĩa rất lớn". Clark không phác thảo cách tạo ra "bàn đạp phanh" cho nghiên cứu và phát triển AI, nhưng đã đưa ra sự tương đồng giữa AI với sự bùng nổ dầu mỏ và các ông trùm vào đầu thế kỷ trước.
"Phản ứng của xã hội là đưa ra một chính sách hợp lý và khung pháp lý để mang lại cho mọi người sự tin tưởng. Clark nói: "Đó rõ ràng là nơi chúng ta kết thúc ở đây".
Anthropic, OpenAI và Google cũng chưa cho biết họ sẽ tạm dừng nghiên cứu của mình. Anthropic đã phát triển nhanh chóng kể từ khi thành lập cách đây 5 năm đến mức nó đang chuẩn bị ra mắt trên thị trường chứng khoán đại chúng.
công nghệ không phải để nâng cao danh tiếng của mình hơn nữa với những khách hàng trả tiền mà ông ấy chỉ muốn "cho thế giới biết chúng tôi là ai". "Nhìn vào bên trong những công ty này với công nghệ khác thường này".
Kể từ khi được thành lập bởi giám đốc điều hành Dario Amodei, Clark và một số giám đốc điều hành khác, Anthropic đã khẳng định mình là người thẳng thắn về những rủi ro tiềm ẩn bắt nguồn từ AI.
Nó thậm chí còn gây tranh cãi công khai với Bộ Quốc phòng Hoa Kỳ về những lo ngại rằng các công cụ AI của nó sẽ được sử dụng để giám sát hàng loạt người Mỹ và chiến tranh tự động. là những lợi ích tiềm năng to lớn.
Cũng có những rủi ro." Clark nói thêm rằng một trong những rủi ro là sự gián đoạn đối với nền kinh tế, với lo ngại rằng công nghệ AI như "đại lý", về cơ bản là các bot AI riêng lẻ thực hiện các nhiệm vụ thông thường một cách tự động có thể đảm nhận một số công việc nhất định.
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.