Nội dung bài viết
FBI cho biết một bài đăng đáng sợ được lưu trên Instagram đã liên kết người đàn ông với tài khoản khiêu dâm AI.
Các vụ bắt giữ sớm nhất theo Đạo luật Take It Down (TIDA) cho thấy cảnh sát không cần phải làm việc quá vất vả để xác định những người đăng và bán trái phép các nội dung giả mạo tình dục trái phép về phụ nữ trên mạng.
Tuần trước, FBI đã bắt giữ hai người đàn ông sau khi truy cập các trang web khiêu dâm và nhấp vào các thẻ bắt đầu bằng # như #AI #Deepfakes hoặc tiêu đề video như “AI_tits” hoặc “Ass_AI”. Một nghi phạm bị buộc tội vi phạm TIDA là Arturo Hernandez, 20 tuổi.
Anh ta bị cáo buộc đã đăng 113 album được xem gần một triệu lần với các hình ảnh và video khiêu dâm do AI tạo ra về khoảng 50 phụ nữ.
Nạn nhân bao gồm các nhân vật chính trị, nữ diễn viên và nhạc sĩ cũng như những phụ nữ không phải là nhân vật của công chúng, chẳng hạn như những nữ sinh theo học tại trường trung học Texas của anh ấy và một người bạn trên Instagram.
Dữ liệu vị trí địa lý đã giúp cảnh sát xác định Hernandez là nghi phạm. Trong bản khai của mình, đặc vụ FBI, Christopher Powell, giải thích rằng cảnh sát điều tra trang web khiêu dâm đã tìm thấy một tài khoản thứ hai đăng lại tất cả nội dung mà Hernandez được cho là đã tải lên.
Đơn khiếu nại cho biết tài khoản thứ hai đó được liên kết với tài khoản PayPal của Hernandez và một địa chỉ IP thường được sử dụng. sed để đăng nhập vào đó chính là IP mà hồ sơ Apple của Hernandez cho thấy anh ấy đã sử dụng để đăng nhập vào iCloud của mình.
Trong khi những nội dung giả mạo về tình dục của những người nổi tiếng và chính trị gia có thể dễ dàng được phát hiện nhất trong tự nhiên, cảnh sát cũng tìm kiếm bằng chứng buộc Hernandez có nội dung AI mô tả những người mà anh ta biết.
Nó có thể đơn giản hóa việc tìm kiếm của họ để phát hiện ra rằng Hernandez không chỉ theo dõi tài khoản Instagram của một nạn nhân mà cảnh sát còn phát hiện ra rằng Hernandez cũng đã lưu trong một thư mục trên tài khoản Instagram của chính mình hình ảnh cụ thể được sử dụng để tạo nội dung khiêu dâm AI được xem hơn 36.000 lần.
Hernandez dường như đã cố gắng tránh xa một số hoạt động, chẳng hạn như bằng cách đăng ký tài khoản Gmail của mình với biệt danh “Ryan” thay vì tên thật của anh ấy. Tuy nhiên, cảnh sát lưu ý rằng Hernandez đã sử dụng biệt danh “Ryan” ở nơi khác trên mạng, kể cả trên tài khoản Snapchat của anh ta.
Tuy nhiên, người đàn ông còn lại bị bắt, Cornelius “Neil” Shannon, 51 tuổi, được cho là kém cẩn thận hơn, bản khai của Powell về vụ bắt giữ đó cho thấy.
Shannon bị cáo buộc xuất bản khoảng 360 album do AI tạo ra đã được xem hơn 2 triệu lần, có khoảng 90 phụ nữ, chủ yếu là các nhân vật chính trị, nữ diễn viên, d nhạc sĩ.
Bản khai của Powell cho thấy việc liên kết Shannon với tài khoản trang web khiêu dâm rất dễ dàng vì Shannon rõ ràng đã sử dụng ảnh của chính anh ấy làm ảnh đại diện.
Tham khảo chéo hồ sơ và hình ảnh giám sát của Bộ Phương tiện Cơ giới, cảnh sát cáo buộc rằng một người đàn ông được nhìn thấy đang tạo dáng trong chiếc áo bóng chày Mets trên hồ sơ của tài khoản dường như là Shannon.
Cả Hernandez và Shannon đều có nguy cơ phải ngồi tù hai năm nếu cảnh sát chứng minh được họ đã vi phạm TIDA. Các quan chức dường như có động cơ theo dõi những hình ảnh được đăng trực tuyến và thực thi luật pháp.
Trong một thông cáo báo chí thông báo về các vụ bắt giữ gần đây, Joseph Nocella, Jr., Luật sư Hoa Kỳ của Quận phía Đông New York, đã cáo buộc các nghi phạm sử dụng “công nghệ kỹ thuật số tiên tiến để tạo ra những hình ảnh xuống cấp và xâm phạm nạn nhân trên khắp Hoa Kỳ”. Và James C.
Barnacle, Jr., trợ lý giám đốc phụ trách văn phòng hiện trường của FBI ở New York, xác nhận rằng các đặc vụ của ông sẽ tiếp tục điều tra những trường hợp tương tự.
Barnacle nói: “Hành vi săn mồi này thể hiện sự lạm dụng công nghệ đáng lo ngại, gây tổn hại về mặt tinh thần cho nạn nhân, vi phạm quyền riêng tư, nhân phẩm và an ninh của họ”.
“Việc sử dụng công nghệ mới nổi này để tấn công cá nhân cũng không phải là sáng tạo—nó là tội phạm và sẽ bị truy đuổi bằng toàn bộ pháp luật.” Tuy nhiên, một số người bị buộc tội vi phạm TIDA có thể tiếp tục sử dụng công nghệ này để gây hại cho nạn nhân vì nó vẫn có sẵn và tương đối rẻ để tạo ra nội dung có vẻ ngoài thực tế nhằm kích dục người thật.
Một người đàn ông Ohio được Bộ Tư pháp Hoa Kỳ ca ngợi là người bị bắt giữ đầu tiên theo TIDA, đáng chú ý là đã tiếp tục thực hiện các hành vi giả mạo tình dục trong khi được thả trước khi xét xử, dường như không hề nản lòng trước cả mối đe dọa về hậu quả sắp xảy ra.
Để ngăn chặn mọi người sử dụng dịch vụ AI để “cởi quần áo” và chia sẻ hình ảnh có hại trực tuyến, Ủy ban Thương mại Liên bang đã thông báo vào tuần trước rằng họ đã gửi thư cảnh báo tới 12 công ty cung cấp cái gọi là công cụ “khỏa thân”.
FTC cảnh báo rằng các công ty đó dường như đang vi phạm TIDA và cần thực hiện “quy trình mà qua đó nạn nhân có thể yêu cầu xóa các hình ảnh thân mật vô cớ xuất hiện trên nền tảng của họ” trong vòng 48 giờ, nếu không sẽ có nguy cơ “bị phạt dân sự lên tới 53.088 USD cho mỗi lần vi phạm”.
Không rõ liệu nền tảng truyền thông xã hội X — đã bị kiện bởi ba cô gái vì cho rằng chatbot Grok của họ đã biến ảnh thật của họ thành tài liệu lạm dụng tình dục trẻ em AI hay không — đã nhận được một cảnh báo.
Nhưng tài khoản An toàn của X đã đăng vào tuần trước, thông báo cho người dùng rằng nạn nhân TIDA có thể báo cáo nội dung có hại thông qua Trung tâm trợ giúp.
Họ cũng có thể báo cáo bất kỳ bài đăng nào bằng cách “nhấn vào menu ba chấm (⋯), chọn 'Nội dung riêng tư hoặc không có sự đồng thuận' > 'Báo cáo nội dung theo Đạo luật gỡ bỏ nội dung của Hoa Kỳ' rồi hoàn thành biểu mẫu."
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.