Nội dung bài viết
Phòng thí nghiệm máy tư duy, công ty khởi nghiệp AI do cựu CTO OpenAI Mira Murati thành lập, đã phát hành mô hình AI độc quyền đầu tiên của mình vào sáng thứ Tư, được gọi là Inkling, và không giống như các mô hình hàng đầu của OpenAI, Anthropic hoặc Google, nó có trọng lượng mở, nghĩa là các nhà phát triển và công ty bên ngoài có thể tải xuống và sửa đổi trực tiếp.
Inkling là một hệ thống gồm nhiều chuyên gia với tổng cộng 975 tỷ thông số, mặc dù nó chỉ dựa trên một phần nhỏ trong số đó, khoảng 41 tỷ, cho bất kỳ nhiệm vụ nhất định nào, một thiết kế chung giúp các mô hình rất lớn chạy nhanh hơn và rẻ hơn.
Theo tài liệu phát hành của chính công ty, nó đã được đào tạo trên 45 nghìn tỷ mã thông báo văn bản, hình ảnh, âm thanh và video cũng như các lý do nguyên bản trên cả ba.
Đây là bằng chứng công khai đầu tiên của công ty sau một năm rưỡi dành cho việc xây dựng cơ sở hạ tầng AI mà phần lớn không được công chúng xem.
Một số công việc đó đã xuất hiện trong bản xem trước nghiên cứu vào tháng 5 về “mô hình tương tác”, AI được thiết kế để nghe và nói (và thậm chí ngắt lời) thay vì dừng và chờ như các chatbot thông thường.
Đây cũng là một cuộc thử nghiệm đặt cược trọng tâm đằng sau Máy tư duy, đó là AI mà các tổ chức có thể tự điều chỉnh sẽ hoạt động tốt hơn các mô hình một kích cỡ phù hợp cho tất cả. các phòng thí nghiệm lớn nhất hiện đang bán.
Đó là một mô hình thú vị, một mô hình được thiết kế để đưa ra các câu trả lời đã được hiệu chỉnh, bao gồm cả việc gắn cờ sự không chắc chắn thay vì đoán và cho phép người dùng tăng hoặc giảm “nỗ lực suy nghĩ” khi họ muốn đánh đổi tốc độ.
Công ty cho biết, trên một điểm chuẩn, Inkling sử dụng số lượng token bằng một phần ba so với Nemotron 3 Ultra của Nvidia để đạt được hiệu suất mã hóa tương tự. Điều đáng chú ý là Thought Machines không khẳng định Inkling là tốt nhất.
Tài liệu tóm tắt của nó nêu rõ ràng rằng Inkling “không phải là mô hình mạnh nhất hiện nay, dù đóng hay mở”. Thay vào đó, những gì nó rõ ràng đang hướng tới là hiệu suất toàn diện.
Tất nhiên, điều đó đặt ra một câu hỏi lớn, đó là sản phẩm này đang nhắm đến ai, ngoài điều hiển nhiên, đây chắc chắn là sản phẩm dành cho doanh nghiệp.
Hiện tại, Think Machines tiếp thị nó không phải là một tác phẩm đã hoàn thiện mà là một điểm khởi đầu, một thứ để các tổ chức tự điều chỉnh thông qua Tinker, nền tảng tùy chỉnh mô hình của công ty.
(OpenAI, Anthropic và Google đều đã thực hiện một cách tiếp cận rất khác với ChatGPT, Claude và Gemini, tất cả đều được xây dựng để cạnh tranh trước tiên với tư cách là các chatbot có mục đích chung, với các tính năng tự động, tự động được xếp lớp lên trên.) Một bài đăng được xuất bản bởi Thought Machines vào tuần trước rõ ràng được coi là nền tảng cho bản phát hành này.
AI được một công ty đào tạo tập trung và sau đó được thiết lập sẵn, công ty lập luận trong bài đăng đó, hoạt động kém hơn AI mà các tổ chức tự định hình vì có quá nhiều kiến thức chuyên môn dành riêng cho những người nắm giữ nó.
Ý tưởng rộng hơn là các phòng thí nghiệm tập trung đang bán cho mọi người cùng một sản phẩm, được phòng thí nghiệm đã tạo ra nó cải tiến nhiều lần, trong khi các doanh nghiệp sẵn sàng sở hữu và tùy chỉnh mô hình của riêng mình có thể thu được nhiều giá trị hơn từ chúng.
Đó là một cuộc tranh luận đang được tiến hành.
Trong một bài đăng trên blog được xuất bản vào Chủ nhật, Giám đốc điều hành Microsoft Satya Nadella – công ty đã đầu tư hàng tỷ đô la vào cả OpenAI và Anthropic – đã cảnh báo rằng các doanh nghiệp sử dụng mô hình AI độc quyền sẽ phải trả hai lần: một lần cho chi phí đăng ký và một lần nữa bằng cách chuyển giao kiến thức kinh doanh được nhúng trong hàng nghìn lời nhắc và chỉnh sửa của họ, những thông tin này có thể được áp dụng vào các phiên bản mô hình trong tương lai.
Giám đốc điều hành của Hugging Face Clem Delangue cũng đưa ra dự đoán tương tự trong cuộc trò chuyện với TechCrunch tuần trước. Ông cho biết, các mô hình tiên phong sẽ ngày càng được dành riêng cho việc...
thực hiện các nhiệm vụ, trong khi hầu hết công việc AI sản xuất đều chuyển sang các lựa chọn thay thế riêng tư hoặc nguồn mở, chính xác là sự phân chia mà Máy tư duy đang xây dựng xung quanh.
Bằng chứng rõ ràng nhất cho lập luận đó gần đây đến từ một dự án với Bridgewater Associates, quỹ phòng hộ lớn nhất thế giới (quỹ này không phải là một nhà đầu tư của Think Machines xét về giá trị của nó).
Các nhà nghiên cứu của cả hai công ty đã sử dụng mô hình nguồn mở hiện có và đào tạo nó sâu hơn về chuyên môn tài chính của Bridgewater.
Kết quả đạt 84,7% trong các bài kiểm tra lý luận tài chính, đánh bại các mô hình AI độc quyền hàng đầu, trong khi chi phí vận hành cao hơn khoảng 1/14, mặc dù những kết quả đó, được công bố chung vào cuối tháng 6, đến từ đánh giá riêng của hai công ty chứ không phải của độc lập.
Think Machines cũng đã nhấn mạnh rằng nó đã đến được đây nhanh như thế nào: OpenAI mất khoảng 5 năm và Anthropic mất khoảng 3 năm để đưa công nghệ ra thị trường và thể hiện doanh thu; Thought Machines cho biết họ đã làm được điều tương tự trong khoảng 9 tháng.
Một số người sẽ tự hỏi liệu Inkling có được đào tạo về kết quả đầu ra từ mô hình của đối thủ cạnh tranh hay không, một phương pháp được gọi là chưng cất đã thu hút sự giám sát chặt chẽ của toàn ngành. Câu trả lời ngắn gọn, theo tài liệu riêng của công ty, là một phần.
Máy tư duy trước đây đã in Inkling từ đầu, nhưng họ cho biết họ đã sử dụng các mô hình có trọng lượng mở khác, bao gồm cả Kimi K2.5 của Moonshot AI, để giúp tạo ra một số dữ liệu sớm sau đào tạo trước khi quá trình học tăng cường trên quy mô lớn diễn ra.
Công ty khẳng định mô hình tiếp theo sẽ sử dụng chương trình đào tạo sau hoàn toàn khép kín. Về mặt chi phí, Think Machines đã thận trọng hơn.
Nó đã đạt được mối quan hệ đối tác chiến lược với Nvidia vào tháng 3 để triển khai công suất tính toán Vera Rubin ở gigawatt và cho biết bản thân Inkling đã được đào tạo hoàn toàn trên hệ thống GB300 NVL72 của Nvidia.
Nhưng công ty vẫn chưa cho biết họ có kế hoạch cân bằng điều đó như thế nào với doanh thu mà theo hầu hết các tài khoản, cho đến nay, đây không phải là trọng tâm chính.
(Một vòng gây quỹ trị giá 50 tỷ USD được cho là sẽ diễn ra vào tháng 11 năm ngoái, nhưng nhiều cửa hàng đưa tin đã bị đình trệ vào tháng 1; công ty đã từ chối nói về bức tranh tài trợ của mình kể từ đó, mặc dù Nvidia cho biết họ đã "đầu tư đáng kể" vào Think Machines khi các công ty công bố quan hệ đối tác vào tháng 3.) Một câu hỏi liên quan là liệu chi tiêu của Think Machines có bao giờ đạt đến quy mô của OpenAI hay Anthropic hay không, hay liệu cách tiếp cận hướng đến hiệu quả của nó có ảnh hưởng đến kinh tế hay không.
trông khác hẳn.
Nói cách khác, đặt cược của công ty có thể ít hơn rằng cuối cùng họ sẽ chi tiêu giống như các đối thủ lớn hơn của mình hơn là họ sẽ không cần phải làm vậy, bởi vì một khi trọng số được công khai, không có gì bắt buộc bất kỳ ai tải chúng xuống phải trả tiền cho Think Machines để chạy chúng, không giống như việc bán OpenAI và Anthropic truy cập theo đồng hồ đo.
Đó là Tinker, chứ không phải bản thân mô hình, nơi doanh thu của công ty phải đến từ thông qua đào tạo, tinh chỉnh và giờ đây là một phần của hệ sinh thái lưu trữ được xây dựng xung quanh nó.
Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể kiếm được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập biên tập của chúng tôi.
Cơ hội cuối cùng để tiết kiệm tới $190 tại Hội nghị thượng đỉnh dành cho người sáng lập TechCrunch. Tham gia cùng hơn 1.000 nhà sáng lập và quỹ đầu tư mạo hiểm ở tất cả các giai đoạn để có được những hiểu biết sâu sắc và kết nối mở rộng quy mô trong thế giới thực.
Tiết kiệm kết thúc vào ngày 26 tháng 6, 11:59 tối. PT.
Satya Nadella đã đưa ra cảnh báo gây sốc cho các công ty sử dụng AI Julie Bort Những cáo buộc ngông cuồng nhất trong vụ kiện bí mật thương mại của Apple chống lại OpenAI Sarah Perez Anthropic bắt đầu nội địa hóa giá Claude cho Ấn Độ, thị trường lớn nhất của hãng sau Jagmeet Singh của Mỹ
Gợi ý thực hành:
1. Theo dõi thông báo từ cơ quan địa phương tại California.
2. Kiểm tra nguồn chính thức trước khi chia sẻ lại thông tin.