Nội dung bài viết
Meta đã thông báo vào thứ Năm rằng giờ đây họ sẽ thông báo cho các bậc cha mẹ nếu con họ thảo luận về việc tự tử hoặc tự làm hại bản thân bằng chatbot Meta AI của công ty.
Meta cho biết họ cũng đang nghiên cứu khả năng liên hệ với các dịch vụ khẩn cấp nếu cuộc trò chuyện của ai đó cho thấy họ có thể có nguy cơ tự tử sắp xảy ra.
Những thay đổi này xuất hiện khi Meta và các công ty công nghệ khác phải đối mặt với sự giám sát chặt chẽ từ các nhà quản lý và phụ huynh về cách các chatbot AI phản ứng với người dùng trong cơn khủng hoảng, đặc biệt là thanh thiếu niên, một câu hỏi về trách nhiệm pháp lý đang ngày càng định hình cách các công ty AI thiết kế và tiếp thị sản phẩm của họ.
Meta cho biết họ đã xây dựng một hệ thống AI chuyên dụng để xác định các cuộc trò chuyện trong đó thanh thiếu niên đề cập rõ ràng đến việc làm tổn thương chính mình. Meta viết trong một bài đăng trên blog: “Chúng tôi hiểu những cảnh báo này có thể gây khó chịu như thế nào đối với phụ huynh”.
"Đó là lý do tại sao, khi chúng tôi tiếp tục cải thiện khả năng phát hiện của mình, tất cả các cuộc trò chuyện bị AI của chúng tôi gắn cờ sẽ được xem xét thủ công trước khi gửi cảnh báo. Nếu ý định của thanh thiếu niên không rõ ràng, chúng tôi sẽ thận trọng và cảnh báo cho phụ huynh.
Mặc dù điều đó có nghĩa là đôi khi chúng tôi có thể thông báo cho phụ huynh khi có thể không có lý do thực sự đáng lo ngại, nhưng ch...
Chúng ta đang ở đúng nơi.” Meta cho biết những cảnh báo này hiện có sẵn cho các bậc cha mẹ sử dụng Instagram Parental Supervision ở Hoa Kỳ, Vương quốc Anh, Úc và Canada và sẽ được triển khai trên toàn cầu vào cuối năm nay.
Bản cập nhật này dựa trên các cảnh báo mà Meta đã gửi cho phụ huynh khi con họ liên tục tìm kiếm các cụm từ tự tử hoặc tự làm hại bản thân trên Instagram. Nó cũng được xây dựng trên một tính năng cho phép phụ huynh xem các chủ đề mà con họ đã thảo luận với Meta AI trong tuần qua.
Meta cũng thông báo rằng cài đặt “Nội dung giới hạn”, cho phép phụ huynh đặt con mình vào trải nghiệm hạn chế hơn trên Instagram, hiện cũng áp dụng cho Meta AI.
Meta AI đã được đào tạo để tránh các cuộc trò chuyện tình dục hoặc lãng mạn hoặc các cuộc thảo luận liên quan đến rượu với thanh thiếu niên và cài đặt Nội dung hạn chế sẽ mở rộng các biện pháp bảo vệ đó bằng cách khiến chatbot từ chối nhiều lời nhắc hơn.
Ngoài ra, Meta cho biết họ sẽ liên hệ với các dịch vụ khẩn cấp nếu cuộc trò chuyện của ai đó với Meta AI, cho dù người dùng là người lớn hay thanh thiếu niên, cho thấy ai đó có nguy cơ tự tử.
Điều đáng lưu ý là Meta đã thực hiện bước này khi ai đó đăng nội dung nào đó lên Facebook hoặc Instagram cho thấy họ đang gặp rủi ro, vì vậy điều này mở rộng cách thực hành tương tự đó cho các cuộc trò chuyện với chatbot của nó.
Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể kiếm được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập biên tập của chúng tôi.
Aisha là phóng viên tin tức tiêu dùng tại TechCrunch. Trước khi tham gia ấn phẩm vào năm 2021, cô là phóng viên viễn thông tại MobileSyrup.
Aisha có bằng cử nhân danh dự của Đại học Toronto và bằng thạc sĩ báo chí của Đại học Western. Bạn có thể liên hệ hoặc xác minh khả năng tiếp cận của Aisha bằng cách gửi email đến [email protected] hoặc qua tin nhắn được mã hóa tại aisha_malik.01 trên Signal.
Cơ hội cuối cùng để tiết kiệm tới $190 tại Hội nghị thượng đỉnh dành cho người sáng lập TechCrunch. Tham gia cùng hơn 1.000 nhà sáng lập và quỹ đầu tư mạo hiểm ở tất cả các giai đoạn để có được những hiểu biết sâu sắc và kết nối mở rộng quy mô trong thế giới thực.
Tiết kiệm kết thúc vào ngày 26 tháng 6, 11:59 tối. PT.
Người lái xe Tesla trong vụ tai nạn chết người ở Texas đã nhấn ga 100%, NTSB xác nhận quảng cáo mới nhất của Sean O'Kane Anthropic đang khiến mọi người kinh hãi Lucas Ropek Satya Nadella đã đưa ra cảnh báo gây sốc cho các công ty sử dụng AI Julie Bort Những cáo buộc ngông cuồng nhất trong vụ kiện bí mật thương mại của Apple chống lại OpenAI Sarah Perez Anthropic bắt đầu bản địa hóa việc định giá ...
t Singh Meta xóa tính năng AI gây tranh cãi trên Instagram sau phản ứng dữ dội của Lucas Ropek
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.