Nội dung bài viết
Các bài đăng từ chủ đề này sẽ được thêm vào thông báo email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn. Các bài đăng từ chủ đề này sẽ được thêm vào thông báo email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Các bài đăng từ chủ đề này sẽ được thêm vào thông báo email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn. Liệu chủng tộc, cảm giác tội lỗi và sự đồng cảm có thể khiến bạn phải trả 40 đô la cho chiếc khóa thắt lưng trị giá 9 đô la này trên TikTok không?
Nếu bạn mua thứ gì đó từ liên kết Verge, Vox Media có thể kiếm được hoa hồng. Xem tuyên bố đạo đức của chúng tôi.
Các bài đăng của tác giả này sẽ được thêm vào thông báo email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn. Nếu bạn mua thứ gì đó từ liên kết Verge, Vox Media có thể kiếm được hoa hồng.
Xem tuyên bố đạo đức của chúng tôi. Aliyah, một phụ nữ da đen có làn da sáng trong trang phục miền Tây, đang gặp khó khăn khi bán những chiếc khóa kim loại do cô làm thủ công trên TikTok.
Trong một video dành cho nền tảng mạng xã hội từ tháng 3, cô ấy đã khóc trước ống kính và cầu xin lượt xem: “Ngay cả khi là một phụ nữ da đen, tôi vẫn có niềm tin hơn rằng phụ nữ da trắng sẽ ở lại 13 giây [trên video này] để cứu công việc kinh doanh khóa thắt lưng của tôi,” dòng chữ trên màn hình viết.
Cô lau một giọt nước mắt trên má. Nhưng Aliyah không có thật và các sản phẩm được cho là thủ công của cô ấy cũng vậy, cô ấy...
thông qua dropshipping trên TikTok, Facebook và Instagram. Những chiếc khóa thắt lưng giống hệt nhau, thiết kế hình hoa hướng dương, khảm dao có thể tháo rời, v.v., được bán trên trang web thời trang nhanh Shein với giá chỉ bằng một phần tư.
Có một số manh mối cần xác định rằng video này do AI tạo ra. Giọng của Aliyah như robot và vô cảm, không khớp với khuôn mặt đang khóc trên màn hình.
Trong một clip, cô ấy đang may một chiếc thắt lưng da mà thường không có đường may nào cả. Khi cô lau nước mắt trên mặt, dòng chất lỏng bên dưới nơi cô lau cũng biến mất.
Và cuối cùng, có hàng tá video có thể so sánh một cách kỳ lạ nhưng với các nhân vật khác nhau do AI tạo ra đang lưu hành trên TikTok. Một, hồ sơ của một tài khoản có tên “Aliyahsbuckles”, có nền, mặt bàn và cuộn dây bện giống hệt nhau.
The Verge đã tìm thấy hàng chục tài khoản trên TikTok với những câu chuyện tương tự và nhiều loại sản phẩm dropshipping, bao gồm khóa thắt lưng, cốc có hình dạng giống bốt cao bồi, túi móc và áo len đan. Một số video này được gắn nhãn là do AI tạo.
Các tài khoản tương tự cũng đang hoạt động trên Instagram và Facebook.
Gần như tất cả các khía cạnh của tài khoản dường như đều do AI tạo ra, từ “người” trong vi deo đối với các phản hồi tự động cho các nhận xét, trong một số trường hợp cố gắng bắt chước tiếng mẹ đẻ của người Mỹ gốc Phi — và các chuyên gia cảnh báo những trò lừa đảo như thế này đang gia tăng mỗi ngày.
Jeremy Carrasco, nhà nghiên cứu về phương tiện truyền thông do AI tạo ra và là giám đốc của Riddance.ai, một tổ chức tập trung vào phát hiện video AI, nói với The Verge về các video do AI tạo ra được kết nối với các cửa hàng thương mại điện tử. "Hầu hết trong số họ không phối hợp.
Một số trong số họ được phối hợp. Phần lớn thời gian, họ sẽ điều hành một diễn viên [AI-tạo] hoặc một vài diễn viên sẽ điều hành tất cả các loại cửa hàng," ông giải thích.
Những hình đại diện do AI tạo ra đó giả vờ chế tạo các mặt hàng, đến hội chợ để trưng bày sản phẩm của họ và “trả lời” các nhận xét thông qua tự động hóa.
“Những gì chúng tôi đang thấy hiện nay là những trò lừa đảo bán lẻ này, nơi chúng sẽ liên kết đến các trang web Shopify.” Carrasco ước tính nhóm nghiên cứu của ông đang tìm kiếm tới 100 tài khoản cố gắng bán sản phẩm thông qua hình đại diện do AI tạo ra mỗi ngày.
Hầu hết các tài khoản mà The Verge tìm thấy đều được tạo trong hai tháng qua và chứa video về các doanh nghiệp nhỏ thuộc sở hữu của những cá nhân bị thiệt thòi đang gặp khó khăn trong việc bán hàng; những video này cực kỳ giống nhau, chỉ có những khác biệt nhỏ trong kịch bản .
Mặc dù chúng tôi cũng tìm thấy các nhân vật phụ nữ người Mỹ bản địa, gốc Tây Ban Nha và phụ nữ da trắng, nhưng những nhân vật do AI tạo ra được xem và tương tác nhiều nhất mà The Verge tìm thấy là phụ nữ da đen. Chỉ riêng tài khoản của Aliyah đã có 40.000 người theo dõi.
Carrasco nói: “Những gì chúng ta đang thấy ở đây là mồi nhử sự đồng cảm.
“Nếu có một mặt hàng dropship phổ biến có thể được bán cho một số loại cộng đồng thích hợp, họ sẽ tìm thấy nó và họ sẽ cố gắng [sử dụng] một số cá tính để làm điều đó.” Carrasco giải thích rằng những xu hướng này thường là những cơ hội kiếm tiền ngẫu nhiên.
“Đó chỉ là một cơ hội ngẫu nhiên, giống như rất nhiều nội dung AI hiện có, các nền tảng không thực sự quan tâm và mọi người không chú ý”. Video phổ biến nhất của Aliyah, video được mô tả trong phần giới thiệu của bài viết này, có 814.000 lượt thích, 6,5 triệu lượt xem và gần 30.000 bình luận.
Một số bình luận xác định nội dung này là do AI tạo ra, nhưng nhiều bình luận bày tỏ mong muốn giúp đỡ hoạt động kinh doanh của Aliyah, bình luận về video để tăng khả năng hiển thị của cô ấy trên nền tảng.
India Cater-Campbell là một trong những người bình luận bày tỏ mong muốn mua khóa thắt lưng của Aliyah. Cater-Campbell, một doanh nhân da đen thực sự cho biết: “Tôi đang cố gắng hỗ trợ một nữ doanh nhân da đen độc lập.
chủ sở hữu của Ness đang chuẩn bị mở một quán cà phê ở Seattle. “[Tôi cảm thấy] đoàn kết khi tôi đang cố gắng tự mình khởi nghiệp.” Mặc dù thiếu nghiên cứu về các mô hình video AI thế hệ mới nhất, Carrasco ước tính rằng những video này “đủ thực tế để đánh lừa” hầu hết mọi người.
Người dùng nền tảng nội dung video dạng ngắn đã được đào tạo để cuộn một cách vô thức và không nhìn sâu hơn vào nội dung họ đang tạo.
Trớ trêu thay, đây chính là điều có thể đã cứu Cater-Campbell khỏi việc thực sự mua một chiếc khóa thắt lưng: Cô ấy không thể tìm thấy ngay liên kết cửa hàng, vì vậy cô ấy lướt đi và nhanh chóng quên mất Aliyah. “Tôi đang cố gắng hỗ trợ một nữ doanh nhân da đen độc lập.”
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.