Nội dung bài viết
CEO Microsoft Satya Nadella cho rằng tác nhân AI phải được đối xử như nhân viên, với danh tính, quyền hạn và được kiểm toán.
"Bạn cần cho chúng bản sắc, có 'sân chơi' riêng, sau đó thiết lập chính sách quản lý như môt nhân viên thực thụ", Nadella nói với người dẫn chương trình Reid Hoffman trong tập Possible Podcast cuối tuần qua.
"Chúng tôi đang tìm hiểu các công cụ và chính sách có thể áp dụng với 'nhân viên' này, như cấp cho chúng một số quyền hạn cụ thể về những gì có thể và không thể truy cập, cũng như cách để kiểm tra công việc an toàn".
Theo ông, tương tự các doanh nghiệp khác trong xu thế AI, Microsoft cũng chi khoản tiền khổng lồ cho trí tuệ nhân tạo, đồng thời tìm cách để tác nhân AI hoạt động hiệu quả khi kết hợp với con người. Tuy nhiên, tìm ra cách quản lý chúng là "đặc biệt khó khăn".
CEO Microsoft kể, ông có thể vận hành 100 tác nhân lập trình AI cùng một lúc, nhưng hướng dẫn từng tác nhân thông qua giao diện trò chuyện không dễ thực hiện. "Gánh nặng nhận thức đối với tôi khi quản lý việc này rất cao", Nadella nói.
Ông cũng cho biết công ty hiện vận hành Agent 36, bộ công cụ gồm Entra, sản phẩm nhận dạng kỹ thuật số và truy cập mạng, và Purview, hệ thống gắn nhãn dữ liệu do tác nhân AI tạo ra.
"Tôi nghĩ khả năng an ninh, vấn đề kiểm soát, quản lý và giám sát sẽ là những yếu tố mà chúng ta tin tưởng được đối với tác nhân trí tuệ nhân tạo khi vận hành doanh nghiệp", CEO Microsoft nói thêm. Microsoft giới thiệu tác nhân AI có tên Scout tại sự kiện Build ngày 2/6.
Công cụ xây dựng trên sức mạnh và tính linh hoạt của OpenClaw, hoạt động trên nền tảng đám mây, tương thích với máy tính để bàn và trình duyệt web.
Người dùng có thể kết nối với hộp thư đến, lịch và các hệ thống khác trong máy tính, cũng như vào hệ sinh thái Microsoft 365, sử dụng để quản lý lịch, soạn thảo chương trình nghị sự cuộc họp cùng nhiều chức năng khác.
Dù vậy, theo tài liệu 404Media thu thập, Microsoft đã lập kế hoạch để khiến người dùng "nghiện" tác nhân này.
Phát biểu của Nadella diễn ra giữa lúc nhiều công ty lớn như Nvidia, Microsoft và Google chạy đua phát triển công nghệ mới cho phép máy tính sử dụng tác nhân AI thay thế con người làm những công việc phức tạp.
Trong đó, Nvidia và Microsoft đang cải tiến Windows và kết hợp chip RTX Spark để thực hiện mục tiêu, còn Google sắp ra Googlebooks với khả năng gợi ý hành động khi người dùng di chuột đến một vị trí trên màn hình.
Nhà phân tích Neil Shah, người đồng sáng lập công ty nghiên cứu thị trường Counterpoint Research, dự đoán định hướng của Nvidia trong phát triển máy tính tác nhân AI tự xử lý dữ liệu sẽ cách mạng hóa máy tính trong 10 năm tới.
Tuy vậy, theo Business Insider , sự phát triển quá nhanh của AI tự chủ cũng gây lo ngại. Ngày 4/6, Anthropic kêu gọi các nhà phát triển AI hàng đầu thiết lập một cơ chế phối hợp để làm chậm hoặc dừng quá trình phát triển nếu AI bắt đầu tự cải tiến với tốc độ vượt sức quản lý rủi ro của xã hội.
Startup này nhận định, AI với khả năng tự cải tiến sẽ là bước phát triển lớn trong lịch sử công nghệ, nhưng cũng làm tăng nguy cơ con người mất quyền kiểm soát trí tuệ nhân tạo.
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.