Nội dung bài viết
Gần đây tôi có cơ hội ngồi lại với Francis de Souza, COO của Google Cloud, ở hậu trường một sự kiện ở Los Angeles.
Giữa những ồn ào xung quanh chúng ta, de Souza, người nói chuyện với phong thái bình tĩnh và cân nhắc của một giáo sư đại học, đã đưa ra lời khuyên hữu ích cho các công ty đang định hướng thời điểm bảo mật AI mà tất cả chúng ta đang trải qua, đồng thời lưu ý rằng “sẽ có một giai đoạn chuyển tiếp và sau đó tôi nghĩ chúng ta sẽ đến được nơi tốt đẹp hơn này”.
Anh ấy không nói về Google vào thời điểm đó, nhưng rõ ràng là ngay cả Google vẫn đang tìm hiểu mọi thứ.
Thông điệp cốt lõi của De Souza là một trong những thông điệp mà các chuyên gia bảo mật đã cố gắng thuyết phục các giám đốc điều hành tiếp thu trong nhiều năm, giờ đây đã trở nên cấp bách bởi AI: bảo mật không thể là vấn đề muộn màng.
Ông nói: “Khi các công ty bắt tay vào hành trình AI này, họ cần áp dụng cách tiếp cận nền tảng.
“Bảo mật không phải là thứ bạn có thể đảm bảo sau này và cũng không phải là thứ bạn có thể để nhân viên tự làm.” Ông cảnh báo cụ thể về “AI bóng tối”, nhân viên tiếp cận các công cụ tiêu dùng mà không có sự giám sát của tổ chức, và lập luận rằng các công ty cần yêu cầu tính bảo mật, quản trị và khả năng kiểm tra từ nền tảng của họ ngay từ đầu.
“Không có chiến lược AI nào mà không có dữ liệu một chiến lược và một chiến lược an ninh. Họ cần phải đi đôi với nhau.” Điều đáng chú ý là anh ấy không quảng cáo Google Cloud một mình.
Khi tôi nhận thấy lời khuyên của anh ấy nghe giống như một quảng cáo trên Google, anh ấy đã từ chối. Ông nói, Google cam kết thực hiện cách tiếp cận đa đám mây và ông đã đưa ra lập luận rằng các công ty cho rằng họ đang hoạt động trên một đám mây duy nhất gần như chắc chắn là không.
Ông nói: “Ngay cả khi họ chọn một đám mây duy nhất, họ vẫn dựa vào các ứng dụng SaaS, vẫn có những đối tác kinh doanh có thể đang sử dụng các đám mây khác nhau”.
“Điều quan trọng là các công ty phải có chế độ bảo mật nhất quán trên các đám mây, trên các mô hình.” Ông cũng đưa ra quan điểm rằng bối cảnh mối đe dọa đã thay đổi về cơ bản đến mức các mô hình phòng thủ cũ quá chậm.
Ông lưu ý rằng thời gian trung bình từ lần vi phạm đầu tiên đến khi chuyển sang giai đoạn tiếp theo của cuộc tấn công đã giảm từ 8 giờ xuống còn 22 giây và bề mặt tấn công đã mở rộng vượt xa phạm vi mạng truyền thống. “Ngoài tài sản thông thường của bạn, bây giờ bạn còn có người mẫu.
Bạn có các đường dẫn dữ liệu được sử dụng để đào tạo các mô hình. Bạn có đại lý, bạn có lời nhắc.
Tất cả những điều này cần phải được bảo vệ.” Một mối đe dọa được de Souza gắn cờ nhưng không đạt được Cần chú ý: các tác nhân di chuyển qua hệ thống nội bộ của công ty có thể tìm thấy các kho dữ liệu bị lãng quên mà không ai nghĩ tới trong nhiều năm.
"Rất nhiều tổ chức có máy chủ SharePoint cũ [và các biện pháp kiểm soát quyền truy cập] mà họ chưa thực sự cập nhật nhưng điều đó không thành vấn đề vì không ai thực sự biết chúng ở đâu.
Nhưng các đại lý chuyển vùng trong doanh nghiệp của bạn sẽ tìm thấy những tài sản dữ liệu đó và sẽ tiết lộ dữ liệu về chúng." Theo quan điểm của ông, câu trả lời là phải đáp ứng tốc độ máy bằng tốc độ máy.
Ông nói: “Chúng ta hiện đang chứng kiến sự xuất hiện của một hệ thống phòng thủ hoàn toàn dựa trên AI, nơi các tổ chức có thể vận hành các tác nhân thúc đẩy hệ thống phòng thủ của họ”.
“Thay vì có hệ thống phòng thủ do con người lãnh đạo hoặc thậm chí là con người trong vòng lặp, giờ đây bạn có thể có con người giám sát hệ thống phòng thủ hoàn toàn bằng tác nhân.” Ông nói thêm rằng đây đã trở thành vấn đề lãnh đạo chứ không chỉ là vấn đề công nghệ.
"Đây là vấn đề ở cấp độ hội đồng quản trị và vấn đề của đội ngũ điều hành.
Đây không chỉ là vấn đề của đội an ninh." Nhưng ngay cả khi AI đảm nhận nhiều khối lượng công việc phòng thủ hơn, thì số lượng người đủ trình độ để giám sát nó vẫn thiếu — và các lỗ hổng mà chính AI đang tạo ra đang gia tăng nhanh hơn mức mà các đội bảo mật có thể giải quyết.
“Chúng tôi sẽ cần người để giải quyết vấn đề b ug-pocalypse,” Giám đốc an ninh thông tin của LinkedIn, Lea Kissner nói với New York Times trong tuần này, đồng thời nói thêm rằng cô không mong đợi ngành này hiểu được bảo mật AI theo bất kỳ cách bền vững lâu dài nào trong ít nhất vài năm.
Điều này đưa chúng ta quay trở lại với chính các nhà cung cấp nền tảng.
Register đã xuất bản một loạt báo cáo trong nhiều tuần qua ghi lại một làn sóng các nhà phát triển Google Cloud phải trả những hóa đơn năm con số sau các lệnh gọi API trái phép tới các mô hình Gemini – những dịch vụ mà nhiều người trong số họ chưa bao giờ sử dụng hoặc cố tình kích hoạt.
Các trường hợp theo một mô hình quen thuộc: Rod Danan, Giám đốc điều hành của nền tảng chuẩn bị phỏng vấn Prentus, cho biết hóa đơn của anh đã lên tới 10.138 đô la trong khoảng 30 phút sau khi những kẻ tấn công khai thác khóa API bị xâm phạm của anh. Giới hạn chi tiêu $250 đã được áp dụng.
Điều mà cả hai đều không biết là hệ thống tự động của Google đã có bạn. đã nâng cấp các cấp thanh toán của họ dựa trên lịch sử tài khoản, nâng mức trần hiệu dụng của họ lên tới 100.000 USD mà không có sự đồng ý rõ ràng.
Google đã hoàn lại tiền cho cả hai sau khi The Register công bố báo cáo đầu tiên.
Tuy nhiên, Google nói với The Register rằng họ không có kế hoạch thay đổi chính sách nâng cấp cấp độ tự động của mình, cho biết họ ưu tiên ngăn chặn tình trạng ngừng dịch vụ hơn là thực thi các tùy chọn ngân sách đã nêu của người dùng.
Trong khi chờ đợi, có một câu hỏi riêng về điều gì sẽ xảy ra khi nhà phát triển cố gắng tắt mọi thứ. Tuần này, tờ Register đưa tin về nghiên cứu của công ty bảo mật Aikido cho thấy ngay cả các nhà phát triển nắm được khóa bị xâm phạm và xóa nó ngay lập tức cũng có thể không an toàn.
Theo phát hiện của Aikido, những kẻ tấn công rõ ràng có thể tiếp tục sử dụng khóa đó trong tối đa 23 phút vì việc thu hồi của Google lan truyền dần dần trên cơ sở hạ tầng của nó.
Nhà nghiên cứu Aikido Joseph Leon nói với The Register rằng trong thời gian đó, tỷ lệ thành công là không thể đoán trước – trong một số phút, hơn 90% yêu cầu vẫn được xác thực – và những kẻ tấn công có thể sử dụng thời gian để lọc các tệp và dữ liệu hội thoại được lưu trong bộ nhớ đệm từ Gemini.
Leon cũng lưu ý rằng các định dạng thông tin xác thực mới hơn của Google dường như không có cùng định dạng. vấn đề: thông tin đăng nhập API của tài khoản dịch vụ sẽ bị thu hồi sau khoảng năm giây và định dạng khóa có tiền tố AQ mới hơn của Gemini mất khoảng một phút.
“Cả hai đều chạy trên quy mô Google,” anh viết trong bài báo liên quan đến Aikido.
“Cả hai đều cho rằng vấn đề này cũng có thể giải quyết được về mặt kỹ thuật đối với các khóa API của Google.” Nói tóm lại, theo Leon, thời lượng 23 phút không phải là hạn chế về mặt kỹ thuật mà là vấn đề ưu tiên của công ty.
Điều đó đáng để cân nhắc khi đọc lời khuyên của de Souza, lời khuyên này rất đúng đắn và cần được thực hiện rất nghiêm túc. Anh ấy không sai, nhưng hiện tại có một khoảng cách giữa các nền tảng đang kê đơn và tốc độ thích ứng của chúng và bạn cũng nên biết điều này.
Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể kiếm được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập biên tập của chúng tôi.
Nghiêm túcVC Athens là người tiếp theo. Nghe những hiểu biết sâu sắc chưa được lọc trực tiếp từ các nhà lãnh đạo công nghệ của Châu Âu và kết nối với những người đang định hình những gì phía trước.
Khóa tại chỗ của bạn trước khi nó biến mất. Bạn không còn có thể Google từ 'bỏ qua' Russell Brandom Sáu công cụ tìm kiếm đáng thử bây giờ vì Google không thực sự là Google nữa Amanda Silberling
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.