Nội dung bài viết
StrictlyVC đầu tiên của năm 2026 sẽ ra mắt SF vào ngày 30 tháng 4. Vé đang bán rất nhanh.
Đăng ký ngay bây giờ. Nhận khoản tiết kiệm từ chương trình Disrupt Early Bird lên tới 410 USD trước 11:59 tối ngày 29 tháng 5.
PT. Đăng ký ngay bây giờ.
Khi các tác nhân AI ngày càng có năng lực cao hơn, các doanh nghiệp đua nhau đưa chúng hoạt động trên nhiều ứng dụng, quy trình công việc và sản phẩm phải đối mặt với một thách thức mới: đảm bảo một tác nhân thực hiện những gì nó phải làm khi được triển khai trên các môi trường khác nhau.
Microsoft đang cố gắng giải quyết vấn đề này bằng một tiêu chuẩn nguồn mở mới có tên là Đặc tả kiểm soát tác nhân hoặc ACS, nhằm mục đích cung cấp cho các nhà phát triển một cách nhất quán và chi tiết hơn để kiểm soát những gì tác nhân AI được phép làm.
Về cơ bản, thông số kỹ thuật cho phép các nhóm phát triển, tuân thủ và bảo mật xác định chính sách của riêng họ để các tổng đài viên tuân theo.
Các quy tắc có thể xác định những gì tác nhân có thể làm, những gì nó không được làm, khi nào con người nên phê duyệt một hành động và bằng chứng nào cần được ghi lại để xem xét sau.
Các tệp chính sách này được kiểm tra tại một số "điểm chặn" khi tác nhân không thực hiện một nhiệm vụ để đảm bảo rằng nó nằm trong phạm vi bảo vệ. Thông số kỹ thuật này được đưa ra khi các nhà phát triển đang ứng biến các cách để kiểm soát những gì AI của họ nhìn thấy và thực hiện, ...
g về quy trình công việc AI gặp trục trặc do sử dụng sai công cụ hoặc các hành động ngoài ý muốn dẫn đến lỗi xếp tầng.
Ngày nay, các nhà phát triển có thể chỉ định hướng dẫn trong lời nhắc hệ thống, thêm các bước kiểm tra tùy chỉnh vào mã ứng dụng hoặc sử dụng bộ phân loại để phát hiện các đầu vào và đầu ra có vấn đề.
Những cách tiếp cận đó có hiệu quả, nhưng chúng thường khiến các công ty có các biện pháp kiểm soát rời rạc, khó kiểm tra và khó sử dụng lại trên các khung, giao diện và hệ thống khác nhau. ACS nhằm mục đích tích hợp các biện pháp kiểm soát đó vào một lớp quản trị chung.
Microsoft cho biết thông số kỹ thuật có thể được sử dụng để kiểm tra xem một tác nhân có tuân thủ các rào chắn ở nhiều điểm trong quy trình làm việc của nó hay không, trước khi nó nhận được đầu vào, trước khi gọi một công cụ, sau khi một công cụ trả về kết quả và trước khi phản hồi cuối cùng được gửi tới người dùng.
Một chính sách có thể cho phép một hành động, chặn nó, biên tập lại thông tin nhạy cảm hoặc thậm chí yêu cầu một người phê duyệt nó.
Các nhà phát triển cũng có thể chèn các bộ phân loại cho đầu vào và đầu ra để phân loại thông tin, dự đoán kết quả hoặc xác định cách tác nhân sẽ phản hồi; thêm LLM với lời nhắc đóng vai trò là “thẩm phán” cho các chính sách; và logic để kiểm tra lệnh gọi công cụ, lựa chọn công cụ, độ chính xác đầu vào, mức sử dụng đầu ra và phản hồi.
Và được Vì các chính sách này có thể được viết dưới dạng các tệp đơn lẻ nên chúng có thể được đóng gói cùng với các tác nhân, cho phép chính sách bảo mật đi theo một tác nhân trên các khung và môi trường khác nhau.
ACS đang vận hành dưới dạng SDK với các plugin cho LangChain, SDK đại lý OpenAI, SDK đại lý nhân loại, AutoGen, CrewAI, Semantic Kernel, Microsoft.Extensions.AI, công cụ MCP, v.v. Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể kiếm được một khoản hoa hồng nhỏ.
Điều này không ảnh hưởng đến tính độc lập biên tập của chúng tôi. Ram là một phóng viên và biên tập viên tài chính và công nghệ.
Ông đưa tin về M&A, vốn cổ phần, tin tức pháp lý và thị trường nợ ở Bắc Mỹ và Châu Âu tại Reuters và Acuris Global, đồng thời cũng viết về du lịch, du lịch, giải trí và sách. Bạn có thể liên hệ hoặc xác minh khả năng tiếp cận của Ram bằng cách gửi email [email protected].
Tìm hiểu sâu hơn về những yếu tố cần thiết để mở rộng quy mô và thành công từ các nhà lãnh đạo tại Mach Industries, Founders Fund và Shinkei Systems.
Thông qua các cuộc trò chuyện thẳng thắn bên lò sưởi và kết nối mạng có tác động cao, bạn sẽ có được những hiểu biết sâu sắc có giá trị và các kết nối mới. 'Thật là một trò đùa': Cách thanh toán dựa trên mã thông báo mới của GitHub Copilot khiến các nhà phát triển Lucas Ropek sửng sốt.
Tôi đã đưa trợ lý AI 24/7 của Google Gemini ... ork, và nó thực sự khá hữu ích Tên lửa New Glenn của Sarah Perez Blue Origin phát nổ trong quá trình thử nghiệm ở Florida Sean O'Kane
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.