Nội dung bài viết
Trong nỗ lực giảm chi phí GPU trong bối cảnh thiếu hụt linh kiện chưa từng có, Meta đang trên đà bắt đầu sản xuất các phiên bản mới nhất của chip dành riêng cho AI vào tháng 9, Reuters đưa tin, trích dẫn một bản ghi nhớ nội bộ.
Bản ghi nhớ cho biết ít nhất một con chip đã hoàn thành giai đoạn thử nghiệm trong khoảng sáu tuần. Meta đang hợp tác với Broadcom về thiết kế chip, nhưng họ sẽ sử dụng Công ty Sản xuất Chất bán dẫn Đài Loan (TSMC) để sản xuất chúng.
Theo báo cáo, họ cũng đang mua RAM từ Samsung, bộ lưu trữ từ Sandisk và thiết bị cáp quang từ Sumitomo Electric.
Meta đã trình bày chi tiết về bốn chip mới, được phát triển theo chương trình Meta Training and Inference Accelerator (MTIA), vào tháng 3, một số trong số đó hiện đang được triển khai hoặc sẽ được triển khai trong năm nay hoặc năm tới.
Công ty đang áp dụng cách tiếp cận mô-đun để thiết kế những con chip này, dự đoán rằng nhu cầu của họ sẽ thay đổi khi AI phát triển nhanh chóng vào thời điểm chip được sản xuất.
Công ty đã viết vào thời điểm đó: “Mỗi thế hệ MTIA đều được xây dựng dựa trên thế hệ trước, sử dụng các chiplet mô-đun, kết hợp thông tin chi tiết về khối lượng công việc AI mới nhất và công nghệ phần cứng, đồng thời triển khai với nhịp độ ngắn hơn”.
Những con chip này được kỳ vọng sẽ giúp công ty tiết kiệm chi phí mua GPU. Reuters đưa tin, các nhà sản xuất chip rom như Nvidia và AMD, mặc dù họ vẫn kỳ vọng sẽ chi nhiều tiền cho các nhà cung cấp đó.
Meta dự định sử dụng chip MTIA cho các mô hình đào tạo cho các thuật toán đề xuất và xếp hạng, khối lượng công việc AI rộng hơn và suy luận nhằm vào các ứng dụng của nó. Công ty truyền thông xã hội này đã sản xuất chip AI của riêng mình kể từ năm 2023.
Meta đã và đang chi tiêu ồ ạt để đảm bảo đủ năng lực tính toán nhằm cung cấp năng lượng cho các nỗ lực AI khác nhau của mình. Vào tháng 4, công ty cho biết họ dự kiến chi tiêu vốn từ 125 tỷ USD đến 145 tỷ USD trong năm nay, phần lớn trong số đó sẽ dành cho các nỗ lực AI của họ.
Công ty đã đạt được các thỏa thuận về trung tâm dữ liệu và năng lượng trên toàn thế giới, chi hàng chục tỷ USD để đảm bảo năng lực tính toán nhằm đào tạo và triển khai loạt mô hình AI Muse Spark mới của mình.
Theo Reuters, hãng này có kế hoạch triển khai 7 gigawatt điện toán trong năm nay và tăng gấp đôi con số đó vào năm tới.
Họ cũng đã ký một thỏa thuận với ARM vào năm ngoái để đảm bảo tính toán cho các hệ thống đề xuất của mình, bên cạnh một thỏa thuận trị giá hàng tỷ đô la với AMD cho GPU Instinct và một thỏa thuận trị giá hàng tỷ đô la với Amazon để sử dụng CPU cây nhà lá vườn của gã khổng lồ đám mây cho các nhu cầu liên quan đến AI.
M eta không phải là công ty duy nhất cố gắng ngăn chặn làn sóng vốn đổ vào Nvidia. OpenAI tháng trước đã tiết lộ một bộ xử lý suy luận mà họ đang xây dựng với Broadcom và Anthropic được cho là đang xem xét phát triển chip của riêng mình với Samsung.
Amazon và Google đều phát triển chip riêng của họ để đào tạo và suy luận AI, đồng thời có rất nhiều công ty khởi nghiệp đang xây dựng trong lĩnh vực này để đáp ứng nhu cầu tăng vọt.
Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể kiếm được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập biên tập của chúng tôi.
Ram là một phóng viên và biên tập viên tài chính và công nghệ. Ông đưa tin về M&A, vốn cổ phần, tin tức pháp lý và thị trường nợ ở Bắc Mỹ và Châu Âu tại Reuters và Acuris Global, đồng thời cũng viết về du lịch, du lịch, giải trí và sách.
Bạn có thể liên hệ hoặc xác minh khả năng tiếp cận của Ram bằng cách gửi email [email protected]. Cơ hội cuối cùng để tiết kiệm tới $190 tại Hội nghị thượng đỉnh dành cho người sáng lập TechCrunch.
Tham gia cùng hơn 1.000 nhà sáng lập và quỹ đầu tư mạo hiểm ở tất cả các giai đoạn để có được những hiểu biết sâu sắc và kết nối mở rộng quy mô trong thế giới thực. Tiết kiệm kết thúc vào ngày 26 tháng 6, 11:59 tối.
PT. Figma mua lại nhóm phát triển ứng dụng mã hóa rung cảm Ivan Mehta Nếu bạn sử dụng Google, bạn đang đào tạo AI của nó.
... đang sử dụng LLM để giải quyết vấn đề LLM do Amanda Silberling tạo ra phần lớn Amazon sẽ ngừng nhận khách hàng mới cho Mechanical Turk Anthony Ha 5 tiện ích bàn làm việc có thể giúp ngày làm việc của bạn tốt hơn Aisha Malik
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.