Nội dung bài viết
Các quan chức nhà nước phát hiện ra rằng họ đang sử dụng sáu hệ thống giống AI có rủi ro cao. Một năm trước, họ báo cáo sử dụng số không.
Trước đây, việc theo kịp các đại diện tại California của bạn là điều không thể. Giờ đây bạn có thể xem chúng như diều hâu: Đăng ký Nhà lập pháp của tôi, báo cáo hàng tuần, được cá nhân hóa của bạn để theo dõi những gì đại diện tiểu bang của bạn nói và làm.
Một năm trước, các quan chức California đã phải báo cáo theo luật mới của tiểu bang về cách họ sử dụng hệ thống tự động để đưa ra những quyết định quan trọng về mạng sống của người dân.
Họ nói rằng họ chưa bao giờ làm vậy, một câu trả lời đáng kinh ngạc vì một số lý do, các nguồn tin nói với CalMatters vào thời điểm đó, bao gồm cả việc có một số ví dụ nổi bật ngược lại.
Giờ đây, tiểu bang đã đưa ra một câu trả lời mở rộng hơn: Hiện tại, tiểu bang đang sử dụng sáu hệ thống tự động để đưa ra các quyết định mang tính hệ quả về cuộc sống của người dân California. Đó là theo một báo cáo được bộ công nghệ của bang công bố hôm thứ Sáu.
Báo cáo này được yêu cầu theo luật năm 2023 yêu cầu các cơ quan tiểu bang hàng năm phải tiết lộ việc sử dụng “hệ thống quyết định tự động có rủi ro cao” mà luật định nghĩa là các hệ thống “được sử dụng để hỗ trợ hoặc thay thế các quyết định tùy ý của con người có ảnh hưởng pháp lý hoặc có ý nghĩa quan trọng tương tự, trong bao gồm các quyết định có ảnh hưởng nghiêm trọng đến việc tiếp cận hoặc phê duyệt nhà ở hoặc chỗ ở, giáo dục, việc làm, tín dụng, chăm sóc sức khỏe và tư pháp hình sự.” Luật này được thúc đẩy bởi các nhóm dân quyền, quyền riêng tư và quyền tự do dân sự lo ngại về tác hại từ các hệ thống giống AI.
Nhiều hệ thống như vậy đã được chứng minh là tạo ra kết quả thiên vị đối với các nhóm bị thiệt thòi, bao gồm cả những hệ thống được sử dụng để thử nghiệm mức độ rủi ro cao, dự đoán tái phạm và phát hiện các văn bản do AI tạo ra.
CalMatters đánh dấu báo cáo năm ngoái là đáng ngạc nhiên, đồng thời lưu ý rằng cơ quan cải huấn tiểu bang đã báo cáo việc sử dụng phần mềm để dự đoán hành vi sau khi được thả và bộ việc làm đã sử dụng hệ thống phát hiện gian lận để tạm dừng phúc lợi cho 600.000 người dân California từ Giáng sinh đến Năm mới 2020, theo báo cáo của Văn phòng Nhà phân tích Lập pháp.
Mặc dù báo cáo nêu tên sáu hệ thống có rủi ro cao đang được sử dụng hiện nay nhưng các cơ quan nhà nước đã sử dụng một số hệ thống này trong vài năm nay. Chúng bao gồm COMPAS, đã được Bộ Cải huấn và Phục hồi California sử dụng để chấm điểm tái phạm cho các tù nhân trong ít nhất một thập kỷ.
Bộ phận công nghệ cho biết trong báo cáo rằng họ đã tìm thấy nhiều hệ thống hơn cho tôi Báo cáo của ts năm nay vì nó đánh giá phản hồi từ các cơ quan nhà nước kỹ lưỡng hơn, bao gồm cả việc gặp gỡ các cơ quan và đặt câu hỏi về hệ thống của họ.
Ngoài sáu hệ thống có rủi ro cao, báo cáo của Bộ còn tiết lộ thêm sáu hệ thống ban đầu được gắn cờ là có rủi ro cao nhưng sau đó được xác định là không. Một là AI được Bộ Tài chính California sử dụng để phân tích dự luật lập pháp.
Báo cáo cũng lưu ý hai hệ thống có rủi ro cao hiện không được sử dụng: Cục Kiểm soát Cần sa đang phát triển trí tuệ nhân tạo để phân tích xem bao bì cần sa có vi phạm luật thu hút trẻ em hay không và Đại học Bang California đã ngừng sử dụng mô hình ngôn ngữ để xem xét đơn xin việc.
Kết quả của cuộc khảo sát thường niên lần thứ hai được đưa ra sau khi các thành phố như San Jose và San Francisco công bố bản kiểm kê AI đầu tiên của họ trong những tháng gần đây.
Chúng cũng đến vào thời điểm các công ty AI lớn có trụ sở tại California như Anthropic và OpenAI đang IPO và tìm kiếm hợp đồng với chính phủ.
Hầu hết người Mỹ vẫn chưa thống nhất về việc liệu họ có tin tưởng vào AI hay không và các cuộc khảo sát năm ngoái của TechEquity và Carnegie California cho thấy phần lớn người dân California muốn được an toàn hơn. sự đổi mới.
Một cuộc thăm dò của Gallup nhằm đánh giá ý kiến của người Mỹ cũng cho kết quả tương tự.
Dự luật Thượng viện 1248, một dự luật cấm nhân viên tiểu bang sử dụng hệ thống ra quyết định tự động làm cơ sở duy nhất để ra quyết định, đã bị hủy bỏ vào tháng trước trong quy trình phân bổ ngân sách nhanh chóng của tiểu bang.
Mặc dù báo cáo mới được công bố chia sẻ nhiều thông tin hơn năm ngoái nhưng vẫn còn một số câu hỏi về việc sử dụng trí tuệ nhân tạo và các hệ thống tự động khác của tiểu bang.
Báo cáo không bao gồm các dự án thí điểm AI tổng quát đang được thực hiện với sự hỗ trợ từ văn phòng thống đốc để thực hiện những việc như giúp doanh nghiệp nộp thuế, hỗ trợ nhân viên tiểu bang làm việc cho người vô gia cư và trợ lý AI tên là Poppy sử dụng các mô hình ngôn ngữ như Claude của Anthropic để làm những việc như soạn thảo tài liệu, chính sách nghiên cứu hoặc xây dựng các công cụ AI tùy chỉnh, theo một trang web của tiểu bang.
Trang web này cho biết 67 cơ quan tiểu bang đã cung cấp thông tin đầu vào trong giai đoạn thử nghiệm và việc triển khai Poppy trên toàn tiểu bang sẽ bắt đầu vào tháng tới.
Hợp đồng của Đại học Bang California với OpenAI để cung cấp phiên bản ChatGPT cũng không được đề cập, mặc dù các cuộc khảo sát về việc sử dụng AI trong môi trường giáo dục đã phát hiện ra rằng công nghệ này có thể làm được điều đó. hại nhiều hơn lợi.
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.