Nội dung bài viết
AI ModelForge là một nền tảng dạy nam giới cách tạo ra những người có ảnh hưởng AI của riêng họ. Cách đây hơn một năm, MG đang có cuộc sống tương đối bình thường của một thanh niên đôi mươi ở Scottsdale, Arizona.
Cô làm trợ lý cá nhân và kiếm thêm thu nhập bằng công việc phục vụ bàn vào cuối tuần. Giống như hầu hết phụ nữ ở độ tuổi của mình, cô ấy có một tài khoản Instagram, nơi cô ấy thỉnh thoảng đăng những Câu chuyện và những bức ảnh cô ấy uống matcha và đi chơi bên hồ bơi với bạn bè hoặc đi tập Pilates.
MG (người chỉ được coi là MG trong vụ kiện để bảo vệ danh tính của mình) cho biết: “Tôi chưa bao giờ thực sự quan tâm đến việc nổi tiếng và trở nên nổi tiếng trên mạng xã hội”.
“Tôi chỉ sử dụng nó theo cách mà hầu hết mọi người đã làm khi nó mới ra mắt, để chia sẻ cuộc sống của họ với những người thân thiết nhất với họ.” Cô ấy có hơn 9.000 người theo dõi một chút—một lượng người theo dõi đông đảo, nhưng không thể sánh bằng một nền tảng lớn.
Mùa hè năm ngoái, cô nhận được tin nhắn trực tiếp từ một trong những người theo dõi cô. Cô ấy có biết không, người đó hỏi cô ấy, rằng những bức ảnh và video về một người phụ nữ trông giống hệt MG đang được lan truyền trên Instagram?
MG nhấp vào liên kết và nhìn thấy nhiều Cuộn phim có khuôn mặt của cô ấy được đặt chồng lên một cơ thể trông giống hệt cô ấy. Người phụ nữ trong p hoto ăn mặc hở hang, có hình xăm ở những chỗ giống như MG.
MG kinh hoàng. “Nếu bạn không biết rõ về tôi, bạn rất có thể nghĩ đó là hình ảnh của tôi,” cô nói.
“Nó giống như việc kiểm tra thực tế rằng tôi không có bất kỳ quyền kiểm soát nào đối với hình ảnh của chính mình.” Cô thậm chí còn kinh hoàng hơn khi phát hiện ra rằng không chỉ những bức ảnh khỏa thân hoặc trang phục hở hang đã được chỉnh sửa của cô được lan truyền trên Internet, như cô đã nêu trong đơn khiếu nại được nộp gần đây, chúng còn được sử dụng để quảng cáo AI ModelForge, một nền tảng dạy đàn ông cách tạo ra những người có ảnh hưởng AI của riêng họ.
Trong một loạt lớp học và hướng dẫn trực tuyến, những người đàn ông được cho là đã dạy người đăng ký sử dụng phần mềm có tên CreatorCore để đào tạo các mô hình AI bằng cách sử dụng ảnh của những phụ nữ trẻ không nghi ngờ, sau đó đăng nội dung thu được lên Instagram và TikTok.
Cô tuyên bố: “Họ cung cấp toàn bộ một cuốn sách, bao gồm hướng dẫn cách chọn đúng người để không phải là người có thể tự bảo vệ mình, vì vậy tất cả họ đều có hướng dẫn về loại phụ nữ nên sử dụng và nơi lấy ảnh của họ”.
“Thật kinh tởm ở mọi cấp độ.” MG là một trong ba nguyên đơn trong vụ kiện được đệ trình vào tháng 1 tại Arizona chống lại ba người đàn ông Phoenix: Jack con trai Webb, Lucas Webb, và Beau Schultz, cũng như 50 John Does khác.
Vụ kiện cáo buộc rằng Webbs và Schultz đã lùng sục trên Internet những bức ảnh của những phụ nữ trẻ không nghi ngờ, sau đó sử dụng AI để tạo ra ảnh và video về những người mẫu hư cấu trông giống hệt họ, bán nội dung như vậy trên nền tảng đăng ký Fanvue.
Vụ kiện còn cáo buộc rằng với 24,95 đô la một tháng trên nền tảng Whop, những người đàn ông này đã bán các khóa học trực tuyến để đào tạo những người đàn ông khác, bao gồm cả John Does có tên trong vụ kiện, cách tạo ra những người có ảnh hưởng do AI tạo ra của riêng họ dựa trên ảnh thật của phụ nữ.
Những người đàn ông được cho là đã tạo ra “Bản thiết kế” về cách lấy hình ảnh từ tài khoản mạng xã hội của phụ nữ và đưa chúng vào mô hình AI tổng hợp trên CreatorCore, cũng như một ứng dụng riêng biệt có thể cởi bỏ quần áo của phụ nữ và tạo ra hình ảnh và video khiêu dâm.
Nội dung như vậy, theo đơn kiện, đã tạo ra hàng triệu lượt xem, được cho là tạo ra thu nhập hơn 50.000 USD trong một tháng.
(Webbs và Schultz đã không trả lời các yêu cầu bình luận.) Kế hoạch kiếm tiền này, theo cáo buộc, đã săn lùng “hậu cung gồm các bản sao AI không thể phân biệt được của những phụ nữ và trẻ em gái không nghi ngờ,” cũng như hướng dẫn “những kẻ săn mồi tìm kiếm đang săn lùng "phụ nữ trên mạng xã hội.
Theo đơn kiện, vào năm 2025, nền tảng CreatorCore đã có hơn 8.000 người đăng ký tạo ra những người có ảnh hưởng AI của riêng họ, dẫn đến hơn 500.000 hình ảnh và video.
AI ModelForge là một trong nhiều công ty đang phát triển dường như đang tìm cách tận dụng việc sử dụng rộng rãi trí tuệ nhân tạo bằng cách dạy nam giới cách tạo ra "những người có ảnh hưởng AI" của riêng họ như một công việc tay trái.
sở hữu các phương pháp được cấp bằng sáng chế để kiếm hàng trăm nghìn đô la từ các mô hình AI, thu hút những người đàn ông trẻ tuổi am hiểu công nghệ muốn kiếm tiền nhanh chóng.
Nick Brand, người cùng với luật sư Cristina Perez Hasano, đang đại diện cho MG và hai nguyên đơn khác đứng sau AI ModelForge, cho biết: “Sự phổ biến của điều này đã khiến tôi bị sốc”.
Ông cáo buộc trong một cuộc phỏng vấn rằng một trong những yếu tố xảo quyệt hơn của vụ án cụ thể này là việc sử dụng hình ảnh của phụ nữ để dạy những người đàn ông khác cách tìm nạn nhân.
Theo đơn khiếu nại, các bị cáo đã khuyến khích các thuê bao nhắm mục tiêu vào những người đàn ông có ít hơn 50.000 người theo dõi để tránh “các vấn đề pháp lý”.
Brand cho biết: “Những chàng trai này không chỉ sử dụng AI có tính sáng tạo để cởi quần áo cho phụ nữ, họ còn bán khả năng làm điều đó cho những người đàn ông và chàng trai khác, những người sau đó sẽ sử dụng hình ảnh của những phụ nữ khác để làm điều tương tự”.
Ông tuyên bố, MG và hai nguyên đơn còn lại là "bộ mặt của một sản phẩm đang gây hại cho những phụ nữ khác. Nó giống như biến ai đó thành bộ mặt của ICE, người đã khiến cha mẹ của họ bị trục xuất.
Thật kinh hoàng." Về mặt kỹ thuật, có luật liên bang ngăn chặn sự phổ biến của nội dung khiêu dâm vô cớ do AI tạo ra.
Đạo luật Gỡ bỏ, mà Tổng thống Trump đã ký thành luật vào tháng 5 năm 2025, quy định việc xuất bản nội dung do AI tạo ra có tính chất khiêu dâm không đồng thuận là bất hợp pháp, yêu cầu các nền tảng phải xóa nội dung đó trong vòng 48 giờ khi nội dung đó bị gắn cờ.
Và hầu hết các tiểu bang của Hoa Kỳ, bao gồm cả Arizona, đã thông qua luật cấm cái gọi là nội dung khiêu dâm “deepfake”. Nhưng Đạo luật Gỡ bỏ phải đến tháng 5 năm 2026 mới có hiệu lực và luật pháp của các bang có xu hướng “phản ứng hơn là chủ động”, Nick Kupper, Đại diện Bang Arizona, cho biết.
Đầu năm nay, Kupper đã giới thiệu một dự luật tại Cơ quan lập pháp Arizona yêu cầu các trang web sử dụng các công cụ phát hiện tự động, chẳng hạn như xác minh độ tuổi. hoặc các biểu mẫu chấp thuận để ngăn nội dung AI không được đồng thuận được tải lên.
"Một khi thứ gì đó đã xuất hiện trên mạng, nó gần như sẽ ở đó mãi mãi, mặc dù nạn nhân đã chi hàng triệu đô la để cố gắng gỡ nó xuống.
Nó giống như một con chuột chũi—bạn đánh một con, con khác sẽ bật lên." Hiện tại, nếu bạn truy cập trang Linktree dành cho AI ModelForge, nó sẽ hướng bạn đến một doanh nghiệp có vẻ như được đổi tên thành “TaviraLabs”, một nhóm Telegram với hơn 18.000 thành viên tự quảng cáo là “cộng đồng huấn luyện Người gây ảnh hưởng AI số 1”.
Ngoài ra, vụ kiện còn nêu tên hơn chục tài khoản Instagram được các bị cáo sử dụng để quảng cáo AI ModelForge, hầu hết trong số đó vẫn đang hoạt động.
Vụ kiện nêu chi tiết cách các tài khoản như vậy tiếp tục đăng ảnh về những phụ nữ trẻ, xe hơi nhanh và đồng hồ đắt tiền, viết những chú thích như “Cô ấy không phải bạn gái của tôi, cô ấy là nhân viên được trả lương cao nhất của tôi” và “POV: Bạn đã tạo ra cô ấy trong 20 phút và cô ấy đã kiếm cho bạn 13,2 nghìn đô la trong 45 ngày đầu tiên”.
Cô tuyên bố, mặc dù MG và các nguyên đơn khác đã liên tục vận động Instagram gỡ hình ảnh của họ xuống, nhưng nhiều người trong số họ vẫn gỡ bỏ vì họ không vi phạm về mặt kỹ thuật các nguyên tắc của Instagram xung quanh nội dung do AI tạo ra.
Khi đạt tới c omment, người phát ngôn của Instagram cho biết họ có “các chính sách cực kỳ nghiêm ngặt” đối với cả hình ảnh thân mật không liên quan do AI và không do AI tạo ra, đồng thời xóa các tài khoản đăng nội dung như vậy.
Khi được cung cấp danh sách khoảng hơn chục tài khoản được cho là có liên quan đến AI ModelForge, người phát ngôn cho biết các tài khoản này đang được xem xét. Vụ kiện cũng trích dẫn một số tài khoản TikTok quảng cáo hoạt động kinh doanh của nam giới.
Khi đưa ra bình luận, người phát ngôn của TikTok cho biết các tài khoản này bị phát hiện vi phạm nguyên tắc cộng đồng và đã bị gỡ xuống.
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.