Nội dung bài viết
Tiểu bang New York đang ban hành những hạn chế rộng hơn đối với cách chatbot đồng hành cư xử với người dùng, đặc biệt là trẻ em, theo bản tin của hãng AP được Mercury News đăng ngày 28/10. Điều đáng chú ý không chỉ nằm ở một quy định riêng lẻ mà ở hướng đi chung.
Các tiểu bang không chờ một khung luật thống nhất mà đang tự vạch ranh giới cho trí tuệ nhân tạo, và an toàn của trẻ vị thành niên là chỗ họ ra tay trước.
Đối tượng bị nhắm tới là "chatbot đồng hành", loại ứng dụng được thiết kế để trò chuyện như một người bạn chứ không chỉ trả lời câu hỏi hay tra cứu thông tin. Lệnh cấm của New York dùng chữ "không an toàn" để gọi tên những hành vi mà các chatbot này không được thể hiện khi tương tác với trẻ em.
Bản tóm tắt nguồn không liệt kê cụ thể từng hành vi bị cấm, cũng không nêu mức phạt hay thời điểm áp dụng. Vì vậy, độc giả nên chờ văn bản chi tiết trước khi kết luận ứng dụng nào sẽ phải thay đổi và thay đổi tới mức nào.
Theo AP, New York không đi một mình. Các tiểu bang ngày càng có động thái bảo vệ trẻ em khi dùng AI, đồng thời bắt đầu quản lý cách giới chủ triển khai các hệ thống AI trong công việc.
Hai mảng này cho thấy phạm vi của làn sóng lập pháp đang mở rộng. Một bên là chiếc điện thoại trong tay đứa trẻ, bên kia là nơi làm việc, nơi người lao động chịu tác động trực tiếp từ cách công ty đưa công cụ AI vào vận hành.
Cùng ngày, một tin từ San Francisco nhắc rằng chính các công ty làm AI cũng không đứng ngoài biến động.
CEO của một công ty AI tại đây, vốn tự giới thiệu là "nền tảng dịch vụ khách hàng hỗ trợ AI hàng đầu trong ngành được xây dựng để cộng tác", đã thông báo trên LinkedIn việc sa thải một số nhân viên, con số cụ thể không được công bố.
Nguồn không nói đợt cắt giảm này có liên quan tới quy định mới hay tới việc dùng AI thay người. Đây chỉ là bối cảnh cho thấy thị trường AI vẫn còn chao đảo trong lúc các nhà lập pháp mới bắt đầu đặt luật chơi.
Quy định của New York chỉ có hiệu lực tại New York, và bản tin không cho biết California có đang cân nhắc biện pháp tương tự hay không.
Tuy vậy, với các phụ huynh tại Mỹ có con thường xuyên trò chuyện với ứng dụng AI, việc một tiểu bang lớn chính thức gọi tên hành vi "không an toàn" của chatbot là tín hiệu rõ ràng. Giới làm luật đã coi rủi ro này là vấn đề thật, không còn là chuyện bàn suông.
Người lao động cũng nên để ý mảng thứ hai mà AP nhắc tới, tức việc các bang bắt đầu đặt điều kiện cho giới chủ khi đưa AI vào công việc.
Hiện còn nhiều câu hỏi bỏ ngỏ quanh quy định của New York: danh sách hành vi bị cấm gồm những gì, nền tảng sẽ xác định người dùng là trẻ em bằng cách nào, và việc thực thi sẽ do ai đảm nhận.
Câu trả lời cho những điểm này sẽ quyết định quy định mới có thực sự thay đổi trải nghiệm của trẻ em trên các ứng dụng chatbot hay chỉ dừng lại ở mức tuyên bố.