Nội dung bài viết
Nhiều cô gái trẻ kiện X hơn về Grok CSAM; X bị buộc tội che chắn cho những kẻ săn mồi trẻ em. Một trong những trường hợp khủng khiếp nhất về hình ảnh tình dục trẻ em được cho là do Grok tạo ra đã được chia sẻ trong một vụ kiện tập thể được đề xuất đã được mở rộng hôm thứ Ba.
Giờ đây, các cô gái trẻ không chỉ cáo buộc X và xAI xây dựng các công cụ “khỏa thân” AI độc hại mà còn che chắn cho những kẻ săn mồi trẻ em bằng cách cản trở cuộc điều tra của cảnh sát về tài liệu lạm dụng tình dục trẻ em (CSAM) do Grok tạo ra.
Vào tháng 3, cha dượng của một cô gái đã tự sát sau khi cảnh sát phát hiện ra rằng ông ta đã sử dụng Grok để tạo ra 7.000 hình ảnh khiêu dâm chỉ bằng một bức ảnh được chụp khi con gái riêng của ông ta 11 tuổi, đơn kiện sửa đổi cáo buộc.
Đơn khiếu nại cho biết Grok đã cho phép người đàn ông tạo ra những hình ảnh cực đoan mô tả loạn luân và cưỡng hiếp mà không đánh dấu bất kỳ hành vi gây hại nào. Có vẻ như hệ thống an toàn trẻ em của xAI chỉ can thiệp sau khi người đàn ông nhập lời nhắc “hiếp dâm tập thể”.
Yêu cầu đó đã gửi một CyberTip tới Trung tâm quốc gia về trẻ em mất tích và bị bóc lột (NCMEC), nơi đã cảnh báo cơ quan thực thi pháp luật về AI CSAM. Tuy nhiên, tác hại vẫn chưa dừng lại.
Bất chấp các yêu cầu báo cáo bắt buộc về việc chia sẻ thông tin như địa chỉ IP của người dùng khi CSAM bị gắn cờ, xAI vẫn lặp lại ly từ chối giúp cảnh sát hoặc NCMEC xác định người dùng, đơn kiện cáo buộc.
Trong nhiều tuần, xAI bị cáo buộc “cản trở cuộc điều tra này mọi lúc mọi nơi” và gây khó khăn hơn cho “các nỗ lực thực thi pháp luật trong việc xác định, xác định và bắt giữ thủ phạm”. Cuối cùng, người cha dượng đã bị bắt sau khi cảnh sát nhận được lệnh tịch thu các thiết bị của ông.
Đó là khi “một cuộc đánh giá pháp y tiết lộ khoảng 7.000 hình ảnh và video do AI tạo ra” mô tả con gái riêng của vợ ông, được cho là được sản xuất bằng cách sử dụng Grok.
Nếu không Grok cung cấp cho người dùng quyền truy cập dễ dàng vào khả năng “cởi quần áo”, gia đình anh ta nghi ngờ rằng anh ta đã tạo ra những hình ảnh có hại mà anh ta bị cáo buộc đã buôn bán trực tuyến để đổi lấy “CSAM do những kẻ săn mồi tình dục trẻ em khác sản xuất”.
Hai ngày sau khi người đàn ông được tại ngoại, anh ta đã tự bắn mình, đơn kiện cho biết, đẩy cô gái trẻ, được biết đến với cái tên Jane Doe 4 trong đơn kiện, vào “giai đoạn khủng hoảng cá nhân cực độ”.
Trong số những tổn hại, giờ đây cô ấy phải chịu đựng chứng lo âu và trầm cảm, cũng như “đấu tranh với ý nghĩ tự tử”. Đơn kiện cáo buộc: “Chỉ qua một đêm, toàn bộ hiện thực của Jane Doe 4 đã tan vỡ bởi bi kịch kép là khai thác tình dục trẻ em và tự tử”.
“Gia đình cô ấy tan nát, và cuộc đời cô ấy trở thành một cơn ác mộng.” Trong thông cáo báo chí, nhóm pháp lý của các cô gái tại Lieff Cabraser Heimann & Bernstein và Baehr-Jones Law cho biết trường hợp của Jane Doe 4 không phải là ngoại lệ.
Họ lưu ý rằng NCMEC đã phát hiện vào đầu năm 2026 rằng 90% báo cáo CyberTipline của xAI “không thể bị cơ quan thực thi pháp luật khởi kiện vì xAI từ chối cung cấp thông tin người dùng cho phép cơ quan thực thi pháp luật theo dõi và xác định vị trí thủ phạm”.
Như các luật sư giải thích: “Trường hợp của Jane Doe 4 cho thấy mô hình đó diễn ra như thế nào: báo cáo bắt buộc của xAI gửi NCMEC chỉ bao gồm ảnh gốc, không phải CSAM, bỏ qua mọi hình ảnh CSAM do AI tạo và không bao gồm địa chỉ IP nơi những hình ảnh này được tạo.
Bất chấp các yêu cầu liên tục từ các nhà điều tra về thông tin vị trí rất quan trọng để xác định và bắt giữ thủ phạm, xAI đã không phản hồi, cản trở cuộc điều tra trong nhiều tuần.” Bị cáo buộc, xAI tránh chia sẻ thông tin này để ưu tiên lợi nhuận hơn là an toàn cho trẻ em.
Trong thông cáo báo chí, Jane Doe 4 cáo buộc X đã “im lặng” sau khi Grok biến “bức ảnh chụp tôi khi còn là một cô bé đang ngủ trên ghế dài, mặc chiếc áo sơ mi pyjama hình gấu trúc quá khổ” thành “hàng nghìn trải nghiệm tình dục”.
những hình ảnh hợp pháp của tôi, những hình ảnh khủng khiếp đến mức tôi không thể diễn tả được chúng.” “Họ có mọi thứ cần thiết để giúp cơ quan thực thi pháp luật ngăn chặn người chịu trách nhiệm và đạt được công lý.
Thay vào đó, họ giữ im lặng và cho phép người này sử dụng Grok để đánh cắp tuổi thơ của tôi,” Jane Doe 4 nói. “Công nghệ này là một vũ khí miễn phí, dễ tiếp cận được đặt vào tay những kẻ tồi tệ nhất trên thế giới.
Điều nguy hiểm là không có cách nào ngăn chặn kẻ săn mồi chụp bất kỳ bức ảnh nào—không chỉ một bức ảnh trên internet—mà bất kỳ bức ảnh nào về một đứa trẻ và sử dụng công nghệ này để tạo ra những hình ảnh từ những cơn ác mộng tồi tệ nhất của bạn.
Không ai được an toàn—không phải người lớn, không phải trẻ em, không phải bất kỳ ai.” Một cô gái khác đã trình báo vào thứ Ba, Jane Doe 5, cũng là mục tiêu của một người quen đã biết, một người bạn trưởng thành của gia đình, người cũng đã buôn bán những hình ảnh bị cáo buộc là do Grok tạo ra trên mạng.
Đơn khiếu nại cho biết cô gái đó chỉ được thông báo sau khi cảnh sát bắt giữ thủ phạm và buộc tội anh ta “sở hữu và phân phối rộng rãi nội dung CSAM”, “chỉ giới hạn ở CSAM không do AI tạo ra”.
Mẹ cô đổ lỗi cho xAI về việc lạm dụng Jane Doe 5, nói rằng vì Grok, “con gái tôi tràn đầy lo lắng và cảm thấy thiếu thốn hoàn toàn. kiểm soát ai đã xem những hình ảnh này.
Sẽ không có đứa trẻ nào phải trải qua chuyện này.” Người sáng lập xAI, Elon Musk, đã phủ nhận việc Grok từng được sử dụng để tạo ra hình ảnh sex trẻ em.
Tuy nhiên, các nhà nghiên cứu ước tính rằng các biện pháp bảo vệ lỏng lẻo của Grok — cho phép người dùng đưa ra các yêu cầu “cay đắng” đối với hình ảnh cởi quần áo — đã gây hại cho hàng chục nghìn trẻ em nếu không có sự can thiệp có ý nghĩa.
Cho đến nay, hành động duy nhất của xAI là tính phí cho tính năng này, mà đơn khiếu nại cáo buộc chỉ đảm bảo rằng xAI thu lợi nhuận từ tất cả nội dung xâm hại tình dục trẻ em do Grok tạo ra.
Ngoài việc bổ sung thêm nhiều nạn nhân vào đơn khiếu nại, các luật sư còn bổ sung Stability AI vào vai bị đơn.
Theo khiếu nại đã sửa đổi, các mô hình trọng lượng mở của Stability AI đã được đào tạo về CSAM và được cho là “làm cơ sở cho các ứng dụng 'khỏa thân' của bên thứ ba", mà người dùng Grok được cho là sẽ dựa vào đó để thay đổi thêm các kết quả đầu ra rõ ràng của Grok.
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.