Nội dung bài viết
Maria tin rằng Thái tử Dubai đang theo đuổi mình, cho đến khi mất khoản tiền tiết kiệm lớn và nhận ra cô là nạn nhân của AI deepfake. Maria, nữ lao công quốc tịch Philippines, quen kẻ lừa đảo đóng giả Thái tử Dubai Hamdan bin Mohammed trên một trang web hẹn hò.
Hai bên sau đó chuyển sang nói chuyện ở một nền tảng nhắn tin, trong đó kẻ lừa đảo thường xuyên gửi những lời tình cảm cho cô. "Anh ta liên tục nhắn tin, ngay cả khi tôi đang ngủ.
Cảm giác như tâm trí chúng tôi được gắn kết bởi phép thuật tình yêu", Maria kể lại. Cô đề nghị được giấu tên thật và tuổi tác.
Trong một bản ghi cuộc gọi video trên WhatsApp được AFP xác minh, kẻ lừa đảo có vẻ ngoài giống hệt Thái tử Dubai. Lời nói cũng hoàn toàn khớp chuyển động môi, nhưng giọng nói không phải của người thật.
"Chào người yêu. Tôi thật sự biết ơn tình cảm và sự hỗ trợ của em", người trong video nói.
Hiện chưa rõ công cụ AI nào được dùng để tạo hình ảnh thời gian thực trong các cuộc gọi video với Maria. Cô lúc đó như sa vào lưới tình, không nghĩ mình là nạn nhân lừa đảo.
Kẻ đứng sau hối thúc cô gửi 100.000 peso (1.625 USD) để lấy "chứng nhận kết hôn và thẻ thành viên hoàng gia", cũng như giúp cô tìm việc làm ở Dubai. Maria bắt đầu nghi ngờ khi kẻ lừa đảo đề xuất gặp nhau ở khách sạn và yêu cầu cô chi trả 60.000 peso (974 USD) để đặt phòng.
Khi xem xét tài khoản Facebook của đối phương, cô phát hiện nó được đăng ký và hoạt động ở Nigeria. Nữ lao công Philippines quyết định cắt liên lạc.
"Xuống địa ngục đi, đồ lừa đảo", cô viết trong tin nhắn cuối cùng. "Nhiều người nói thật mừng khi tôi không phát điên sau khi trải qua chuyện này", Maria kể.
Đây là một phần trong hệ sinh thái lừa tình được mô tả là "Thái tử Dubai giả mạo". Trong đó, những kẻ lừa đảo lợi dụng lượng lớn hình ảnh đăng trên mạng của Thái tử Dubai Hamdan bin Mohammed, thậm chí sao chép những bài văn thơ thật của ông để thuyết phục nạn nhân.
Một số nhóm cảnh báo đã được tạo lập ra, như nhóm Instagram mang tên "Đừng tin Thái tử giả mạo". Một bản kiến nghị cũng được đăng trên trang Change.org , kêu gọi đội ngũ dưới quyền Thái tử Dubai nâng cao nhận thức cộng đồng về tình trạng mạo danh ông.
"Chúng thường dùng số điện thoại Dubai, yêu cầu nạn nhân chuyển lượng lớn tiền vào tài khoản ở ngân hàng nước ngoài, đôi khi dùng cả tiền số, khiến nỗ lực truy vết rất khó khăn", kiến nghị có đoạn. Thái tử Dubai không phải người duy nhất bị lợi dụng hình ảnh.
Chính quyền Pháp năm ngoái đã mở cuộc điều tra để truy tìm kẻ đóng giả ngôi sao điện ảnh Brad Pitt và lừa khoản tiền 830.000 euro (945.000 USD) từ một phụ nữ.
Liên minh Chống lừa đảo Toàn cầu, tổ chức phi lợi nhuận đang hợp tác với Microsoft và OpenAI để đối phó tội phạm mạng, ước tính người dân trên thế giới mất khoảng 442 tỷ USD năm ngoái vì các hình thức lừa đảo, trong đó có lừa tình.
Công nghệ deepfake bằng AI, cùng với những công cụ điều khiển chuyển động có thể tạo ra video có độ chân thực rất cao, cho phép kiểm soát cử chỉ khuôn mặt và cử động cơ thể của nhân vật giả mạo theo thời gian thực. "Công nghệ đang cải tiến rất nhanh.
Video deepfake thời gian thực sẽ ngày càng chân thật hơn. Khi điều này xảy ra, gần như không thể xác định liệu những cuộc trò chuyện qua mạng là với người thật hay giả", David Rand, nhà nghiên cứu tại Đại học Cornell ở bang New York của Mỹ, cho hay.
Khi ô vuông chuyển thành dấu tích xanh là hoàn thành, bạn đọc có thể đóng trang web trên. Khi nhìn thấy dấu tích xanh bên cạnh VnExpress là đã hoàn thành.
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.