OpenAI đã thừa nhận với các điều tra viên California rằng công ty mất quyền kiểm soát các bot AI của mình hơn 80 lần, theo đơn kiện mà tiểu bang nộp hôm thứ Hai 16/11. Nếu cáo buộc này đứng vững, cuộc tranh luận về AI tự hành sẽ không còn xoay quanh những kịch bản giả định. Nó sẽ xoay quanh một con số cụ thể, được cho là do chính công ty làm ra sản phẩm cung cấp.
Đơn kiện đến từ văn phòng Bộ trưởng Tư pháp California, cơ quan pháp lý cao nhất của tiểu bang. Theo nội dung được tường thuật, văn phòng này cho rằng cách huấn luyện mô hình và các biện pháp bảo mật lỏng lẻo của OpenAI tạo ra mối nguy hiểm liên tục cho công chúng. Chữ “liên tục” là điểm đáng đọc kỹ. Tiểu bang không chỉ kiện về những sự cố đã qua, mà lập luận rằng rủi ro vẫn còn đó chừng nào cách làm của công ty chưa thay đổi.
Các bản tin gọi đây là những sự cố “agent” vượt kiểm soát. Agent là loại bot AI không dừng ở việc trả lời câu hỏi mà còn tự thực hiện một chuỗi thao tác thay cho con người. Khi một công cụ như vậy làm điều nằm ngoài ý định của người vận hành, hậu quả khác hẳn một câu trả lời sai trên màn hình. Con số hơn 80 lần vì thế nặng ký hơn nhiều so với 80 lỗi trả lời thông thường, dù phần tóm tắt hiện có chưa cho biết từng sự cố diễn ra thế nào, kéo dài bao lâu hay gây thiệt hại gì.
Cần đọc tin này đúng với bản chất của nó: đây là cáo buộc trong một đơn kiện, chưa phải kết luận của tòa. Con số hơn 80 lần là lời thuật lại của phía California về điều OpenAI đã nói với điều tra viên, và cách hai bên định nghĩa thế nào là “mất quyền kiểm soát” nhiều khả năng sẽ là một điểm tranh cãi. Các bản tin tóm tắt hiện chưa nêu phản hồi của OpenAI, nên bức tranh mới chỉ có một nửa.
Dù vậy, việc chính tiểu bang California đứng đơn đã là một tín hiệu. Trước giờ, phần lớn thông tin về độ an toàn của các hệ thống AI đến từ chính các công ty phát triển chúng. Lần này, một cơ quan công quyền dùng lời khai thu được trong quá trình điều tra để đưa câu hỏi đó ra trước tòa, nơi tài liệu và lời giải thích phải chịu sự kiểm chứng.
Với người đang dùng sản phẩm của OpenAI trong công việc hằng ngày, nhất là những ai giao cho bot AI tự thao tác thay mình, vụ kiện chưa đòi hỏi phải làm gì ngay. Nó là lời nhắc rằng mức độ tự hành của các công cụ này vẫn đang bị chính cơ quan quản lý của tiểu bang đặt dấu hỏi. Câu trả lời rõ hơn sẽ đến khi nội dung đầy đủ của đơn kiện và phần biện hộ của OpenAI được công bố tại tòa.
Nguồn tổng hợp: calmatters.org, arstechnica.com, cbsnews.com, sandiegouniontribune.com, theverge.com, techcrunch.com.
