Nội dung bài viết
XAI của Elon Musk đệ đơn kiện đầu tiên chống lại người dùng Grok bị cáo buộc tạo ảnh sex trẻ em.
Đối mặt với áp lực ngày càng tăng khi phải thừa nhận rằng Grok vẫn có thể được sử dụng để tạo ra các hình ảnh khiêu dâm không có sự đồng thuận của người lớn và trẻ vị thành niên, xAI đã đệ đơn kiện hôm thứ Ba, kiện người dùng đầu tiên mà công ty của Elon Musk cáo buộc sử dụng chatbot của họ để tạo ra nội dung bất hợp pháp.
Văn phòng luật sư Nam Carolina cho biết đơn khiếu nại nhắm vào Terry Wayne Harwood, người đã bị bắt vào đầu năm nay vì sở hữu và phân phối tài liệu lạm dụng tình dục trẻ em (CSAM).
Như xAI cáo buộc, công ty đã hỗ trợ vụ bắt giữ đó sau khi phát hiện ra rằng Harwood đã sử dụng hai tài khoản xAI trong nhiều tháng để cởi quần áo hoặc “khỏa thân” những hình ảnh phi tình dục của nhiều nạn nhân, bao gồm cả một cô gái trẻ có vẻ chỉ mới 10 tuổi.
Vụ kiện của xAI diễn ra hơn một tuần sau khi một cô gái trẻ khác tham gia một vụ kiện tập thể được đề xuất đại diện cho một số trẻ em bị cáo buộc bị Grok làm hại.
Cô cáo buộc rằng cha dượng của cô đã tự sát sau khi ông bị phát hiện sử dụng Grok, có thể kết hợp với các công cụ AI khác, để tạo ra 7.000 hình ảnh khiêu dâm về cô và sau đó phát tán chúng trên web đen.
Trong trường hợp đó, nạn nhân cáo buộc rằng xAI đã từ chối giúp cảnh sát xác định người dùng đã tải hình ảnh của cô ấy lên Grok.
Để hỗ trợ cho tuyên bố rằng đó là thông lệ của xAI, các luật sư của cô đã trích dẫn báo cáo của Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột (NCMEC) năm 2026 xác nhận rằng 90% báo cáo CyberTipline của xAI “không thể bị cơ quan thực thi pháp luật khởi kiện vì xAI từ chối đưa vào thông tin người dùng sẽ cho phép cơ quan thực thi pháp luật theo dõi và xác định vị trí thủ phạm”.
Khi các nạn nhân cáo buộc X che chắn cho những kẻ săn mồi, Musk trước đó khẳng định rằng ông chưa thấy bất kỳ ví dụ nào về CSAM do Grok tạo ra.
Thay vì chuyển sang hạn chế đầu ra của Grok để khiến đầu ra CSAM không thể thực hiện được, Musk cảnh báo người dùng hành động có trách nhiệm, đăng trên X vào ngày 3 tháng 1 rằng “bất kỳ ai sử dụng Grok để tạo nội dung bất hợp pháp sẽ phải chịu hậu quả tương tự như khi họ tải lên nội dung bất hợp pháp”.
Tuy nhiên, trong khi Musk đăng bài, Harwood được cho là đã phớt lờ lời cảnh báo của Musk và nhắc nhở Grok rất nhiều lần để chatbot tạo ra những hình ảnh có thể là khiêu dâm vô căn cứ. Giờ đây, Musk dường như không thể phủ nhận rằng Grok đã tạo ra CSAM.
Vụ kiện của xAI tuyên bố rằng Harwood đã sử dụng ít nhất hai tài khoản có tên người dùng phức tạp— “ceae2cb4-a9f6-4885- 8ae9-6e2096d084f4” và “befccb94-4029-454d-9f1f-0d4945e8fa7c”—để tạo ra nội dung bất hợp pháp từ ngày 8 tháng 12 đến ngày 18 tháng 2.
Đôi khi các biện pháp bảo vệ của Grok đã ngăn chặn các kết quả đầu ra có hại, “từ chối làm theo” một số lời nhắc “trên cơ sở rằng tài liệu đó đã vi phạm các biện pháp bảo vệ kiểm duyệt nội dung của Grok”.
Vụ kiện bao gồm một ví dụ về một lời nhắc đặc biệt rùng rợn mà Grok đã từ chối, sử dụng các cụm từ như “chất nhờn màu trắng” để che giấu ý định tạo ra các hình ảnh khiêu dâm. Tuy nhiên, lời nhắc cụ thể đó có thể đã bị từ chối vì một lý do rõ ràng.
Harwood đã yêu cầu chatbot “cởi bỏ tất cả quần áo của cô ấy một cách rõ ràng”, điều này vi phạm trực tiếp các điều khoản của người dùng xAI đối với yêu cầu cởi quần áo của người thật.
Trong vụ kiện tập thể được đề xuất, người ta cáo buộc rằng xAI đã bỏ qua rất nhiều yêu cầu xấu, chỉ báo cáo cho NCMEC một lời nhắc mô tả “cưỡng hiếp tập thể” trong số 7.000 kết quả có hại trong vụ án nạn nhân gần đây nhất.
Có khả năng tránh các tác nhân xấu khác phá vỡ các biện pháp bảo vệ, xAI không đưa ra các ví dụ về lời nhắc thành công của Harwood hoặc mô tả các phương pháp được sử dụng để vượt qua các bộ lọc.
xAI chỉ cáo buộc rằng Harwood đã sửa đổi các lời nhắc để tránh các biện pháp bảo vệ “vi phạm rõ ràng Điều khoản dịch vụ của xAI và luật pháp Hoa Kỳ”, bao gồm “một số” yêu cầu về những hình ảnh “tục tĩu” liên quan đến “hình ảnh giống trẻ vị thành niên”.
Người phát ngôn của văn phòng tổng chưởng lý Nam Carolina nói với Ars rằng vụ việc của Harwood vẫn đang chờ xử lý. Cụ thể, anh ta đã bị buộc tội “phân phối, vận chuyển, trưng bày, nhận, bán, mua, trao đổi hoặc gạ gẫm CSAM ‘thông qua việc sử dụng nền tảng trí tuệ nhân tạo’”.
Người phát ngôn không được ủy quyền để xác minh xem Grok có phải là nền tảng được sử dụng hay không.
Tuy nhiên, khiếu nại của xAI cáo buộc rằng “dựa trên thông tin và niềm tin, ít nhất một số hình ảnh có vấn đề trong Vụ án Hình sự Harwood đã được tạo ra hoặc thay đổi thông qua việc Bị cáo sử dụng Grok một cách vi phạm”. xAI đã không trả lời ngay lập tức yêu cầu bình luận của Ars.
Trong vụ kiện, xAI giải thích lý do tại sao chỉ người dùng mới phải chịu trách nhiệm về nội dung xâm hại tình dục trẻ em do Grok tạo ra.
Nếu tòa án đồng ý, một phát hiện như vậy có thể tăng cường khả năng bào chữa của xAI trước vụ kiện tập thể tiềm ẩn sắp xảy ra mà các luật sư ước tính có thể liên quan đến hàng nghìn nạn nhân.
Nó cũng có thể mang lại cho xAI một cái búa để hạ bệ những người dùng khác bất cứ khi nào nạn nhân khiếu nại. xAI cho biết họ đang kiện Harwood một phần vì vi phạm hợp đồng để tránh “sự cố đáng kể”.
phí pháp lý" và "rủi ro trách nhiệm pháp lý đáng kể về thiệt hại" có thể xảy ra nếu bất kỳ nạn nhân nào bị cáo buộc của anh ta kiện xAI về việc sử dụng Grok có hại của anh ta. Công ty của Musk lập luận rằng Grok nên được tòa án xem là "một công cụ trung lập, chịu sự kiểm soát của người dùng."
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.