Nội dung bài viết
Discord đã thừa nhận rằng một lỗi trong hệ thống kiểm duyệt AI của họ đã cấm nhầm hơn 8.000 người dùng trong hai tháng qua, sau khi những hình ảnh vô hại — bao gồm bảng tính, bàn cờ, kết cấu trò chơi cũng như nền trong suốt màu trắng và xám — bị gắn cờ không chính xác là nội dung có hại.
Công ty xác nhận rằng sự cố này đã ảnh hưởng đến các tài khoản kể từ tháng 5, với thêm 200 người dùng bị cấm vào cuối tuần trước khi nhóm của họ xác định và khắc phục sự cố. Tất cả các tài khoản bị ảnh hưởng hiện đang trong quá trình khôi phục.
Vụ việc nêu bật một trong những thách thức ngày càng tăng xung quanh việc kiểm duyệt được hỗ trợ bởi AI khi nhiều nền tảng ngày càng dựa vào hệ thống tự động để xác định tài liệu bất hợp pháp hoặc lạm dụng trên quy mô lớn.
Trong một chủ đề chi tiết trên X, Discord giải thích rằng hệ thống an toàn tự động của nó hoạt động bằng cách đối chiếu nội dung đã tải lên với cơ sở dữ liệu về tài liệu có hại đã biết.
Mặc dù công nghệ này được thiết kế để phát hiện nội dung bất hợp pháp nhưng công ty thừa nhận rằng đôi khi nó có thể tạo ra các kết quả dương tính giả. Người kiểm duyệt xem xét nội dung nhưng một lỗi đã khiến hệ thống cấm ngay các tài khoản bị ảnh hưởng.
“Chúng tôi đang nghiên cứu các biện pháp bảo vệ tốt hơn để điều này không thể xảy ra nữa trong," công ty viết. Hệ thống của chúng tôi gắn cờ nội dung bằng cách so khớp nội dung đó với tài liệu có hại đã biết.
Kiểu so khớp tương tự này có thể tạo ra kết quả dương tính giả, đó là lý do tại sao một thành viên trong nhóm Tin cậy & An toàn của chúng tôi luôn xem xét nội dung bị gắn cờ trước khi thực hiện bất kỳ hành động nào. Hành vi dự định là...
Trên khắp X và Reddit, người dùng cho biết họ đã bị đình chỉ vĩnh viễn chỉ vì tải lên hình ảnh có chứa các mẫu lưới vuông.
NSFW và nội dung khai thác trẻ em từ các hệ thống phát hiện tự động đã bày tỏ sự thất vọng trên mạng xã hội, với một số ý kiến cho rằng lệnh cấm tài khoản vĩnh viễn chỉ dựa trên phát hiện tự động có thể gây ra hậu quả nghiêm trọng, đặc biệt đối với những người dùng dựa vào Discord để làm việc, cộng đồng chơi game hoặc kết nối xã hội đường dài.
Điều này cần phải được dừng lại”, một người dùng X viết đ. Tài khoản của tôi đã bị cấm khỏi nền tảng của bạn một cách sai trái do lỗi trong chế độ tự động AI của bạn khi phát hiện KẾT CẤU TRÒ CHƠI của tôi là CSAM.
Tôi cần lấy lại tài khoản của mình vì tôi là giám đốc trò chơi và sử dụng Discord cho mọi hoạt động liên lạc của mình. Tôi đã yêu cầu xem xét lại việc đình chỉ của tôi.
@discord @discord_support pic.twitter.com/QfAkCIJo6S Discord không đơn độc đối mặt với những rắc rối về kiểm duyệt do hệ thống tự động.
Năm ngoái, người dùng Instagram và Nhóm Facebook đã báo cáo tình trạng tài khoản bị đình chỉ không rõ nguyên nhân trên diện rộng mà nhiều người tin rằng nguyên nhân là do hệ thống kiểm duyệt AI gây ra.
Mặc dù người dùng cho rằng tự động hóa có thể là thủ phạm nhưng Meta chưa bao giờ công khai xác nhận liệu lỗi AI có phải là nguyên nhân hay không. Hiện Ban giám sát của Meta đang thúc đẩy tăng cường tính minh bạch.
Tumblr năm ngoái cũng phải đối mặt với khiếu nại từ người dùng cho biết tài khoản của họ đã bị đình chỉ hàng loạt mà không có lời giải thích rõ ràng. Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể kiếm được một khoản hoa hồng nhỏ.
Điều này không ảnh hưởng đến tính độc lập biên tập của chúng tôi. Lauren phụ trách lĩnh vực truyền thông, phát trực tuyến, ứng dụng và nền tảng tại TechCrunch.
Bạn có thể liên hệ hoặc xác minh khả năng tiếp cận của Lauren bằng cách gửi email laur... tôi.
Cơ hội cuối cùng để tiết kiệm tới $190 tại Hội nghị thượng đỉnh dành cho người sáng lập TechCrunch. Tham gia cùng hơn 1.000 nhà sáng lập và quỹ đầu tư mạo hiểm ở tất cả các giai đoạn để có được những hiểu biết sâu sắc và kết nối mở rộng quy mô trong thế giới thực.
Tiết kiệm kết thúc vào ngày 26 tháng 6, 11:59 tối. PT.
Reddit đang sử dụng LLM để giải quyết vấn đề LLM được tạo ra phần lớn là Amanda Silberling Amazon sẽ ngừng nhận khách hàng mới cho Mechanical Turk Anthony Ha
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.