Nội dung bài viết
Hôm thứ Hai, Đức Thánh Cha Leo XIV đã công bố thông điệp đầu tiên của ngài, có tựa đề Magnifica Humanitas, về việc “bảo vệ con người trong thời đại trí tuệ nhân tạo”.
Và trong khi AI là điểm mấu chốt, các vấn đề mà Leo tập trung vào lại cũ hơn và lan rộng hơn: bất bình đẳng, chiến tranh, sự xói mòn của nền dân chủ và sự tập trung quyền lực vào tay những người không nhất thiết quan tâm liệu nhân loại có còn vĩ đại hay không.
Xuyên suốt tài liệu dài 200 trang mà Đức Thánh Cha trình bày cùng với người đồng sáng lập Anthropic Chris Olah, Leo lập luận rằng công nghệ được xây dựng và quản lý bởi một nhóm nhỏ tinh hoa, theo định nghĩa, không thể phục vụ lợi ích chung.
Ông viết: “Khi quyền lực như vậy tập trung vào tay một số ít, nó có xu hướng trở nên mờ ám và trốn tránh sự giám sát của công chúng, làm tăng nguy cơ hình thành các hình thức phát triển méo mó, dẫn đến những sự phụ thuộc, loại trừ, thao túng và bất bình đẳng mới”.
“Trên thực tế, giống như mọi sự thay đổi công nghệ lớn, AI có xu hướng khuếch đại sức mạnh của những người đã sở hữu nguồn lực kinh tế, chuyên môn và khả năng tiếp cận dữ liệu”, thông điệp tiếp tục, nhấn mạnh mối lo ngại rằng giới tinh hoa có thể sử dụng quyền lực của mình để “định hình thông tin và mô hình tiêu dùng, ảnh hưởng đến các quá trình dân chủ”.
và lèo lái các động lực kinh tế theo hướng có lợi cho mình.” Thông điệp được đưa ra vài ngày sau khi Tổng thống Donald Trump trì hoãn việc ký lệnh hành pháp về AI, điều này sẽ giúp chính phủ giám sát các mô hình mới trước khi chúng được phát hành, theo sự thúc giục của nhà đầu tư VC và cựu chiến lược gia AI của Nhà Trắng David Sacks.
Đức Thánh Cha Leo kêu gọi AI được hướng dẫn bởi “các tiêu chí rõ ràng và sự giám sát hiệu quả” dựa trên sự tham gia của các cộng đồng sẽ bị ảnh hưởng bởi nó.
Cụ thể hơn, Leo kêu gọi chấm dứt cuộc chạy đua vũ trang AI “để có các thuật toán mạnh mẽ hơn bao giờ hết và bộ dữ liệu lớn hơn” mà các công ty và quốc gia tin rằng sẽ “đảm bảo sự thống trị về địa chính trị hoặc thương mại”.
Ông viết: “Giải trừ vũ khí có nghĩa là làm mất uy tín giả định rằng quyền lực kỹ thuật tự động trao quyền cai trị”. Một lần nữa, những động lực này có trước AI.
Rerum Novarum năm 1891 của Giáo hoàng Leo XIII đề cập đến vấn đề tập trung quyền lực tương tự trong Cách mạng Công nghiệp, nhưng chúng ta không cần phải nhìn lại quá xa.
việc Elon Musk mua lại Twitter và triển khai nền tảng này để giúp bầu Trump; hàng trăm triệu chảy từ giới tinh hoa công nghệ vào các siêu PAC để ngăn chặn quy định về AI, kiểu mô hình rõ ràng là tôi đã truyền cảm hứng cho tác phẩm của Leo XIV.
Giáo hoàng đi đến cùng một kết luận mà nhiều người đã đi đến: sức mạnh và khả năng siêu thực của AI ngày nay đặt ra những nguy cơ vô cùng lớn.
Giáo sư Paolo Carozza của Trường Luật Notre Dame, thành viên của Học viện Khoa học Xã hội Giáo hoàng và chủ tịch Hội đồng Giám sát Meta, nói với TechCrunch rằng thông tin sai lệch và tin giả sâu do AI điều khiển đã “làm xói mòn khả năng của chúng ta trong việc nhận ra điều gì là đúng và điều gì không đúng, và điều đó thực sự gây hậu quả cho chính trị dân chủ.” Ông nói thêm, hoạt động “thu thập và thao tác” dữ liệu con người của ngành công nghệ đặt ra “những thách thức cơ bản đối với quyền tự do nhận thức”.
Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể kiếm được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập biên tập của chúng tôi.
Rebecca Bellan là phóng viên cấp cao tại TechCrunch, nơi cô đưa tin về hoạt động kinh doanh, chính sách và các xu hướng mới nổi đang định hình trí tuệ nhân tạo. Tác phẩm của cô cũng đã xuất hiện trên Forbes, Bloomberg, The Atlantic, The Daily Beast và các ấn phẩm khác.
Bạn có thể liên hệ hoặc xác minh khả năng tiếp cận của Rebecca bằng cách gửi email tới [email protected] hoặc qua tin nhắn được mã hóa tại rebeccabellan.491 trên Signal. Nghiêm túcVC Athens là người tiếp theo.
Nghe thông tin thu thập những hiểu biết sâu sắc trực tiếp từ các nhà lãnh đạo công nghệ của Châu Âu và kết nối với những người đang định hình những gì phía trước. Khóa tại chỗ của bạn trước khi nó biến mất.
Bạn không còn có thể Google từ 'bỏ qua' Russell Brandom Sáu công cụ tìm kiếm đáng để thử bây giờ vì Google không thực sự là Google nữa Amanda Silberling Jensen Huang nói rằng anh ấy đã tìm thấy một thị trường 'hoàn toàn mới' trị giá 200 tỷ đô la cho Nvidia Julie Bort Sam Altman đưa ra lời đề nghị 'thả mic' cho mọi công ty khởi nghiệp Y Combinator Julie Bort
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.