Nội dung bài viết
Theo các nhà tổ chức nỗ lực, hàng trăm nhà nghiên cứu AI tại Google của Alphabet Inc. đã ký vào một lá thư kêu gọi Giám đốc điều hành Sundar Pichai từ chối cung cấp hệ thống trí tuệ nhân tạo của công ty cho khối lượng công việc được phân loại cho các nhiệm vụ quốc phòng của Hoa Kỳ.
Bức thư được cung cấp cho Bloomberg News có nội dung: “Chúng tôi là những nhân viên của Google, những người quan tâm sâu sắc đến các cuộc đàm phán đang diễn ra giữa Google và Bộ Quốc phòng Hoa Kỳ”.
“Là những người làm việc về AI, chúng tôi biết rằng những hệ thống này có thể tập trung quyền lực và chúng sẽ mắc sai lầm.” LIÊN QUAN: Apple, Google đã nghiền nát dự luật California giúp đỡ các đối thủ nhỏ hơn Những người tổ chức bức thư cho biết họ đã thu được hơn 580 chữ ký và khoảng 2/3 số người ký đã đồng ý nêu tên trong khi khoảng 1/3 yêu cầu giấu tên.
Họ nói nó sẽ được gửi đến Pichai vào thứ Hai. Bloomberg đã nói chuyện với ba nhân viên liên quan đến việc tổ chức bức thư, tất cả đều yêu cầu giấu tên vì sợ bị trả thù.
Ban tổ chức đã chia sẻ một số tên đó cho mục đích xác minh, nhưng Bloomberg không thể kiểm tra toàn bộ danh sách. Người phát ngôn của Google đã không trả lời ngay lập tức yêu cầu bình luận.
Bức thư phản đối theo sát một vấn đề pháp lý giữa Lầu Năm Góc và PBC Anthropic về việc sử dụng AI cho các ứng dụng quân sự.
Lầu Năm Góc đang tìm cách loại Anthropic và công cụ AI Claude của họ khỏi chuỗi cung ứng quốc phòng của Hoa Kỳ, đồng thời đang tìm kiếm các đối tác AI khổng lồ về công nghệ mới.
Cuộc biểu tình của lực lượng lao động đánh dấu nỗ lực mới của các công nhân ở Thung lũng Silicon nhằm cố gắng hạn chế việc sử dụng AI và những rủi ro liên quan đến các công cụ đó trong môi trường an ninh quốc gia được phân loại.
Lầu Năm Góc đang tìm cách rót hàng tỷ USD vào việc mở rộng việc sử dụng AI cho quân đội và phát triển vũ khí tự động. Nhân viên của Google là một trong những người đầu tiên gióng lên hồi chuông cảnh báo về nguy cơ chiến tranh AI vào năm 2018 và buộc công ty phải hạn chế công tác phòng thủ.
Tuy nhiên, mối quan hệ của công ty với ngành công nghiệp quốc phòng Hoa Kỳ đã được thiết lập lại trong những năm gần đây và công ty đã giảm bớt ranh giới đỏ về AI của chính mình.
"Chúng tôi muốn thấy AI mang lại lợi ích cho nhân loại, chứ không phải thấy nó được sử dụng theo những cách vô nhân đạo hoặc cực kỳ có hại. Điều này bao gồm vũ khí tự động gây chết người và giám sát hàng loạt nhưng còn vượt ra ngoài phạm vi đó", bức thư nêu rõ.
“Hiện tại, cách duy nhất để đảm bảo rằng Google không liên quan đến những tác hại như vậy là từ chối bất kỳ phân loại nào. d khối lượng công việc.
Nếu không, những hành vi sử dụng như vậy có thể xảy ra mà chúng tôi không hề biết hoặc không có khả năng ngăn chặn chúng.” Sofia Liguori, kỹ sư nghiên cứu AI tại Google DeepMind ở Anh, cho biết cô đã ký bức thư vì tin rằng Google đã không thảo luận với các nhân viên về bất kỳ ranh giới cụ thể nào về việc sử dụng AI của họ trên các mạng phân loại hoặc các mạng khác.
Ngoài ra, cô tin rằng công ty sẽ không thể giám sát và hạn chế cách các công cụ AI của họ thực sự được sử dụng trên các hệ thống được phân loại “air-gap”, tách biệt với Internet công cộng hoặc các mạng không bảo mật khác.
Liguori, một nhà vật lý lý thuyết được đào tạo ở gần Milan, cho biết phản ứng chính trước những lo ngại của người lao động về việc quân đội Hoa Kỳ sử dụng Google AI là khuyến khích lực lượng lao động tin tưởng vào lãnh đạo công ty để ký những hợp đồng tốt. “Nhưng tất cả đều rất rộng,” cô nói.
“Agent AI đặc biệt đáng lo ngại vì mức độ độc lập mà nó có thể đạt được.
Nó giống như việc cho đi một công cụ rất mạnh mẽ đồng thời với việc từ bỏ bất kỳ hình thức kiểm soát nào đối với việc sử dụng nó.” Các nhà tổ chức cho biết những người ký bức thư bao gồm hơn 20 giám đốc, giám đốc cấp cao và phó chủ tịch, bên cạnh một số nhân viên cấp cao tại Google DeepMind, phòng thí nghiệm nghiên cứu AI của công ty nhằm tìm cách giữ cho Google luôn dẫn đầu trong cuộc đua AI đồng thời mở khóa các ứng dụng có thể mang lại lợi ích cho nhân loại.
Một cuộc biểu tình vào năm 2018 của các công nhân Google về việc công ty hợp tác với quân đội Hoa Kỳ đã đánh dấu đỉnh điểm căng thẳng trước đó giữa Lầu Năm Góc và Thung lũng Silicon.
Các nhân viên cho biết họ rất kinh hoàng khi biết rằng Google đã ký hợp đồng để thực hiện công việc mà họ gọi là “công việc kinh doanh chiến tranh” trong Dự án Maven, một nỗ lực của Lầu Năm Góc nhằm sử dụng AI để phát hiện và phân tích các vật thể trên nguồn cấp dữ liệu video của máy bay không người lái.
Trước sự phản đối và từ chức, công ty cuối cùng đã đưa ra các nguyên tắc AI mới và quyết định không gia hạn hợp đồng với Project Maven.
Nhưng năm ngoái, Google đã loại bỏ một đoạn trong nguyên tắc trí tuệ nhân tạo cam kết tránh sử dụng công nghệ này trong các ứng dụng có khả năng gây hại, chẳng hạn như vũ khí. Những người tổ chức bức thư hôm thứ Hai cho biết trong một tuyên bố rằng “Maven vẫn chưa kết thúc”.
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.