Chiến lược mã nguồn mở của Nvidia được nâng cấp: Từ "người hỗ trợ" thành "người xây dựng", lên kế hoạch tự tay phát triển các mô hình AI mã nguồn mở hàng đầu thế giới

Nvidia đang lặng lẽ hoàn thành một bước chuyển mình mang tính chiến lược về vai trò, từ "người ủng hộ" của hệ sinh thái AI mã nguồn mở thành "người trực tiếp xây dựng".

Wall Street News nhắc đến, ngày 11 tháng 8, theo báo cáo của The Information, Nvidia kỳ vọng thế hệ tiếp theo của Nemotron 4 sẽ lọt vào nhóm các mô hình mã nguồn mở mạnh nhất thế giới.

Nhân viên tham gia dự án dự đoán, phiên bản lớn nhất sẽ có ít nhất 1 nghìn tỷ tham số, gấp đôi Nemotron 3 Ultra phát hành tháng 6.

Dữ liệu tiền huấn luyện và kiến trúc của mô hình đã được quyết định sơ bộ, nhưng thông số kỹ thuật cuối cùng và thời gian phát hành vẫn chưa được xác định, và vòng huấn luyện quan trọng nhất cũng chưa bắt đầu. Cái gọi là "Nemotron 4 một nghìn tỷ tham số" hiện vẫn chỉ là một kế hoạch R&D, không thể coi là một sản phẩm đã phát hành.

Khoản đầu tư này dễ bị hiểu là Nvidia cũng muốn trở thành OpenAI hay Anthropic, nhưng thực tế Nvidia không cần thu hồi chi phí qua API của Nemotron.

Chỉ cần các mô hình miễn phí khiến nhiều doanh nghiệp, chính phủ và startup bắt đầu huấn luyện, tinh chỉnh và triển khai AI, Nvidia có thể thu phí theo tầng đối với GPU, mạng NVLink, hệ thống máy chủ, CUDA và phần mềm doanh nghiệp.

Nemotron 4 giống như một bộ tạo nhu cầu về tính toán: mô hình miễn phí, nhưng tài nguyên tính toán để sử dụng mô hình thì không miễn phí.

Nvidia cần mở rộng người mua từ một số gã khổng lồ ra toàn thị trường

Bùng nổ GPU hiện nay rất tập trung.

Báo cáo 10-Q đến ngày 26 tháng 4 của Nvidia cho thấy, ba khách hàng trực tiếp lần lượt đóng góp 21%, 17% và 16% doanh thu quý, tổng cộng 54%; công ty cũng công bố rằng một doanh nghiệp nghiên cứu và triển khai AI thông qua dịch vụ đám mây đóng góp "một khoản doanh thu đáng kể".

Loại khách hàng trực tiếp này có thể là nhà tích hợp hệ thống, nhà phân phối hoặc cloud provider, không thể đơn giản coi là ba người dùng cuối, nhưng rủi ro tập trung khách hàng đã hiện rõ trên báo cáo tài chính.

Rắc rối hơn, các khách hàng lớn đồng thời đang phát triển sản phẩm thay thế Nvidia:

• Amazon AWS dùng Trainium để phục vụ huấn luyện và suy luận của Anthropic, chính thức công bố đã có gần 1 triệu chip Trainium 2 phục vụ Claude;
• Google Ironwood TPU hướng tới huấn luyện và suy luận quy mô lớn;
• AMD cũng dùng MI350 và ROCm để giành thị phần mô hình mã nguồn mở.

Mô hình đóng nguồn dồn nhu cầu vào vài phòng thí nghiệm và nền tảng đám mây, chúng có quy mô lớn, khả năng đàm phán giá mạnh, và có động lực chuyển công việc ổn định sang chip tự phát triển.

Với Nvidia, thị trường an toàn nhất không phải là một công ty mô hình thống trị AI, mà là hàng nghìn mô hình và ứng dụng khác nhau cùng phát triển. Nhu cầu càng phân tán, khách hàng càng khó dùng một ASIC tùy chỉnh phủ tất cả kiến trúc; công việc thay đổi nhanh, hệ sinh thái phần mềm CUDA và GPU phổ dụng càng lợi thế.

Điều này cũng giải thích vì sao Nvidia không thể chỉ "ủng hộ" hệ sinh thái mở trên lời nói. Một mô hình mã nguồn mở tụt hậu xa mô hình đóng nguồn chỉ thu hút thử nghiệm nghiên cứu, khó lòng khiến ngân hàng, nhà sản xuất hay chính phủ dám duyệt ngân sách cho cụm sản xuất.

Mô hình phải đủ mạnh, mạnh đến mức doanh nghiệp muốn dùng dữ liệu của mình để tiếp tục huấn luyện, mạnh đến mức khách hàng sẵn sàng giao luồng công việc tần suất cao cho nó, mô hình mở mới biến lượt tải về của developer thành mức sử dụng GPU trong phòng máy.

Ý nghĩa của con số nghìn tỷ tham số nằm ở đây. Đó không phải là một "huân chương thông minh", mà là phương tiện để Nvidia vượt qua ngưỡng sử dụng cho doanh nghiệp.

Nemotron 3 Ultra hiện có 550 tỷ tổng tham số, mỗi token kích hoạt 55 tỷ tham số, hỗ trợ tối đa ngữ cảnh 1 triệu token.

Theo kiểm thử do Nvidia công bố, nó trong một số tác vụ tiệm cận các mô hình mã nguồn mở hàng đầu khác, thông lượng suy luận còn cao vượt trội. Nhưng The Information dẫn xếp hạng bên thứ ba cho biết nó vẫn tụt hậu so với mô hình mở mạnh nhất Trung Quốc, và chưa vào được nhóm đầu toàn cầu.

Vì vậy, quy mô tham số chỉ cho thấy tham vọng, không thể thay thế thành tích thực tế.

Trong kiến trúc MoE thưa, tổng tham số và tham số thực sự dùng mỗi lần suy luận chênh lệch rất lớn, chất lượng dữ liệu, số token huấn luyện, hậu huấn luyện, năng lực gọi tool và hệ thống suy luận cùng quyết định kết quả cuối.

Nếu Nemotron 4 chỉ có con số "1 nghìn tỷ" đẹp mà không vào nhóm dẫn đầu trong các tác vụ thực tế, nó rất khó thay đổi bất kỳ quyết định mua sắm nào.

Một mô hình miễn phí có thể bán được cả một nhà máy AI

Nvidia đã sắp xếp sẵn quy trình chuyển đổi:

1. Nemotron mã nguồn mở cung cấp trọng số mô hình, dữ liệu và công thức huấn luyện;
2. Doanh nghiệp dùng NeMo để tiếp tục tiền huấn luyện, tinh chỉnh, học tăng cường và đánh giá;
3. Khi triển khai kết hợp dịch vụ micro NIM inference, TensorRT-LLM và CUDA;
4. Mở rộng quy mô, tải tính toán chuyển sang DGX Cloud, GPU public cloud hoặc cụm HGX/DGX tự xây dựng của doanh nghiệp.
5. Ngoài GPU, mạng NVLink, InfiniBand hoặc Spectrum-X, CPU, DPU và đăng ký NVIDIA AI Enterprise cũng xuất hiện trong hóa đơn.

Quy trình này đã xuất hiện các điển hình ban đầu. Palantir mang Nemotron vào mạng cô lập của chính phủ Mỹ, khách hàng có thể huấn luyện, nắm giữ trọng số mô hình và liên tục cải tiến trên hạ tầng riêng, triển khai sản xuất được hỗ trợ bởi NVIDIA AI Enterprise.

Thị trường Nhật Bản gần với mô hình "AI chủ quyền": viện nghiên cứu và doanh nghiệp dùng dữ liệu Nemotron và NeMo để huấn luyện mô hình tiếng Nhật, HGX B300 chịu trách nhiệm hạ tầng riêng, Jetson cho triển khai biên.

API đóng nguồn không vào được mạng cô lập, cũng khó đáp ứng yêu cầu lưu trữ dữ liệu, quyền sở hữu mô hình và kiểm toán tại chỗ. Mô hình mở mang những tải công việc vốn không có trên cloud API công cộng vào phòng máy chính phủ, trung tâm dữ liệu doanh nghiệp, AI cloud khu vực và thiết bị đầu cuối.

Với các công ty mô hình, đây là thị trường phân tán hơn và khó thu phí hơn; với Nvidia – nhà bán nền tảng hạ tầng, mỗi điểm triển khai là một điểm doanh thu phần cứng và phần mềm mới.

Routing mô hình giúp nâng tầm kinh doanh này. The Information đưa tin, đồng thời với phát hành Nemotron 3.5 Lightning, Nvidia cũng giới thiệu phần mềm định tuyến mô hình miễn phí. Bộ định tuyến này sẽ giao tác vụ đơn giản cho mô hình nhỏ giá rẻ, chỉ giao tác vụ khó cho mô hình lớn.

Bề ngoài, nó giúp khách hàng tiết kiệm chi phí tính toán đắt đỏ; thực tế, cược của Nvidia là: khi chi phí mỗi tác vụ giảm xuống, doanh nghiệp sẽ triển khai nhiều agent thông minh thường trực, biến một lần hỏi đáp thành quá trình liên tục gồm lập kế hoạch, tìm kiếm, dùng công cụ, xác minh và sửa đổi.

Gartner dự báo, đến 2030, chi phí suy luận mô hình nghìn tỷ tham số sẽ giảm hơn 90% so với 2025, nhưng mỗi tác vụ của agent tiêu thụ token có thể gấp 5-30 lần chatbot thông thường; nếu lượng token tăng nhanh hơn tốc độ giảm giá, tổng chi tiêu cho suy luận vẫn tăng.

Cá cược của Nvidia không phải là "mô hình càng lớn càng đắt, càng bán được nhiều GPU", mà là "trí thông minh càng rẻ, mức sử dụng càng nổ tăng". Nemotron đồng thời bao phủ mô hình nhẹ, mô hình chủ lực và công cụ routing, chủ động tạo ra độ co giãn nhu cầu sau giảm giá.

Làm mô hình cũng để thế hệ chip tiếp theo được làm đúng ngay từ đầu

Nemotron còn có một giá trị nữa không hiển thị trực tiếp trên doanh thu mô hình: nó là bài test full-stack cho chính Nvidia.

Nếu hãng chip chỉ chờ khách hàng "đóng" mô hình rồi mới đi thích nghi với cơ chế attention mới, routing MoE, ngữ cảnh dài và định dạng thấp chính xác, chu trình phát triển phần cứng sẽ mãi lạc nhịp.

Tự mình huấn luyện mô hình tiên tiến, đội ngũ kỹ thuật sẽ sớm nhìn ra các nút thắt về tính toán, bộ nhớ, liên kết, băng thông dữ liệu và scheduling suy luận, từ đó phản ánh vào thế hệ GPU, NVLink và thư viện phần mềm tiếp theo.

Nemotron 3 Ultra đã để lại dấu ấn "đồng thiết kế cùng phần cứng": mô hình dùng hỗn hợp kiến trúc Mamba-Attention và MoE, tiền huấn luyện sử dụng định dạng NVFP4 thiết kế riêng cho Blackwell, tăng tốc độ sinh bằng dự đoán nhiều token.

Nvidia cho biết, phiên bản đã lượng tử hóa có thể triển khai trên 4 card B200. Loại mô hình này vừa là sản phẩm, vừa là workload demo cho năng lực định dạng thấp, hệ thống bộ nhớ và phần mềm suy luận của Blackwell.

Sau khi mã nguồn mở, developer bên ngoài sẽ tiếp tục tối ưu hóa workload này cho Nvidia.

Kiến trúc mô hình mới chạy thử trên CUDA, PyTorch, vLLM, SGLang và TensorRT-LLM, phản hồi tối ưu hóa quay lại nền tảng Nvidia, kẻ đến sau sẽ không chỉ đối mặt với khoảng cách hiệu năng của một GPU, mà là một môi trường sản xuất đã được tối ưu qua hàng nghìn dự án.

Theo các demo năm nay của Nvidia, chi phí mỗi token chạy DeepSeek V4 trên Blackwell có thể giảm xuống còn 1/5 chỉ trong một tháng; nhiều tối ưu phần mềm cộng dồn giúp tăng thông lượng lên 20 lần.