Nội dung bài viết
Những kẻ lừa đảo được cho là đã nhắm mục tiêu hàng trăm nghìn người bằng các trang web lừa đảo được mã hóa bởi Gemini. Google thích cho chúng ta biết tất cả những cách mọi người đang sử dụng các sản phẩm AI tổng hợp của mình để xây dựng những thứ mới, phát triển doanh nghiệp và cứu thế giới.
Được cho là. Tất nhiên, mọi người cũng đang sử dụng AI để phạm tội.
Google đã công bố một cuộc tấn công pháp lý mới nhằm vào một nhóm Trung Quốc có tên là Outsider Enterprise, nhóm được cho là chịu trách nhiệm về một chiến dịch lừa đảo quy mô lớn được hỗ trợ bởi AI.
Google cho biết họ đang làm việc với cơ quan thực thi pháp luật và các nhà cung cấp dịch vụ di động để chống trả. Theo hồ sơ pháp lý của Google, Outsider Enterprise hoạt động thông qua Telegram.
Nhóm này cung cấp dịch vụ lừa đảo cho những cá nhân có thể không đủ hiểu biết về mặt kỹ thuật để tự mình thiết lập các trang web và chiến dịch nhắn tin lừa đảo.
Trong các kênh Telegram của mình, Outsider Enterprise được cho là đã cung cấp hướng dẫn về cách sử dụng Gemini AI của Google để tạo các trang web bắt chước trang web của Google, YouTube và các cơ quan chính phủ như E-ZPass của New York. Nhóm này đưa ra gần 300 mẫu lừa đảo.
Google cho biết những trò gian lận do Outsider Enterprise thực hiện đã dẫn đến hơn 2,5 triệu tin nhắn văn bản được gửi tới người dùng Android. Khoảng 55.000 trong số đó m bài luận đã xảy ra trong khoảng thời gian hai tuần vào tháng trước.
Tổng cộng, Google đã theo dõi 9.000 trang web giả mạo và 1 triệu URL được kết nối với mạng lừa đảo. Các tin nhắn văn bản thường đưa ra khiếu nại về các vấn đề về tài khoản hoặc các vấn đề liên quan đến việc giao gói hàng.
Khi người dùng nhấp vào các liên kết, họ đã truy cập vào một trong những trang web lừa đảo do Gemini thiết kế để trông có vẻ hợp pháp. Tội phạm mạng đã sử dụng các trang web này để đánh cắp dữ liệu cá nhân và thông tin ngân hàng.
Hồ sơ của Google không ước tính số tiền bị đánh cắp thông qua các vụ lừa đảo của Outsider Enterprise, nhưng bài đăng trên blog lưu ý rằng hàng trăm người đã mất một số tiền.
Google đã làm việc với AT&T, Verizon và T-Mobile để chặn nhiều tin nhắn văn bản độc hại này và Google lưu ý rằng tính năng phát hiện lừa đảo trên thiết bị trong Google Messages cũng có thể giúp giảm số lần lừa đảo thành công.
Tính năng được hỗ trợ bởi AI này dường như đã ngăn chặn 10 tỷ tin nhắn lừa đảo mỗi tháng, vì vậy thật công bằng khi hy vọng nó đã phát hiện được ít nhất một số hoạt động của Outsider Enterprise.
Google đã từng đệ đơn kiện những kẻ lừa đảo trước đây, nhưng đây là lần đầu tiên họ có hành động trực tiếp chống lại một nhóm bị cáo buộc sử dụng Gemini như một phần của các trò lừa đảo của mình.
Google thảo luận về điều này Các biện pháp bảo mật mà Gemini đã áp dụng mỗi khi công bố một mô hình mới, nhưng những biện pháp này có thể xung đột với nhu cầu chung là các chatbot phải làm theo hướng dẫn và làm hài lòng người dùng.
Và sau đó bạn gặp phải hàng nghìn kẻ lừa đảo sử dụng Gemini để xây dựng các trang web giả mạo. Ngoài vụ kiện dân sự, Google đang hỗ trợ bộ phận tội phạm mạng của FBI thực hiện một cuộc điều tra hình sự song song.
Tuy nhiên, không ai biết ai đứng đằng sau Outsider Enterprise và ngay cả khi Google có tên tuổi thì cũng chẳng thể làm gì được khi thủ phạm đang ở Trung Quốc.
Công ty có thể truy lùng các miền và tài khoản Telegram lừa đảo với hy vọng làm gián đoạn hoạt động của Outsider Enterprise, nhưng những trò gian lận có thể chỉ đơn giản là thay đổi hình thức.
Google tin rằng kỷ nguyên AI đòi hỏi những cách tiếp cận mới trong việc thực thi pháp luật, do đó, Google nhân cơ hội này để đổi mới sự ủng hộ của công chúng đối với một loạt luật pháp.
Công ty đã đưa ra bảy luật liên bang tiềm năng khác nhau, như Đạo luật Chiến lược quốc gia về chống lừa đảo, Lực lượng đặc nhiệm chiến lược về Đạo luật ngăn chặn lừa đảo và Đạo luật kế hoạch AI.
Hầu hết các đạo luật mà Google thúc đẩy đều kêu gọi một hoặc nhiều cơ quan thực thi pháp luật liên bang thành lập các lực lượng đặc nhiệm để chống lại mối đe dọa về các vụ lừa đảo và thao túng thị trường được hỗ trợ bởi AI.
Một trong số đó (Đạo luật Chiến dịch Giáo dục và Nhận thức Công cộng về Trí tuệ Nhân tạo) nhằm mục đích cải thiện khả năng của công chúng trong việc phát hiện các mục đích sử dụng AI có mục đích xấu.
Tuy nhiên, mục tiêu toàn ngành là đạt được trí thông minh giống con người trong hệ thống AI sẽ chỉ khiến mọi người khó phát hiện nội dung này hơn, ngay cả với tất cả các luật pháp chính phủ có ý nghĩa tốt trên thế giới. Ars Technica đã tách tín hiệu khỏi tiếng ồn trong hơn 25 năm.
Với sự kết hợp độc đáo giữa hiểu biết về kỹ thuật và mối quan tâm sâu rộng đến nghệ thuật và khoa học công nghệ, Ars là nguồn đáng tin cậy trong biển thông tin. Suy cho cùng, bạn không cần phải biết mọi thứ, chỉ cần biết những gì quan trọng.
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.