清空記錄
歷史記錄
取消
清空記錄
歷史記錄
在CES 2025上,NVIDIA推出了Project DIGITS,這是一款由全新NVIDIA GB10 Grace Blackwell超級芯片提供支持的開創(chuàng)性個人AI超級計(jì)算機(jī)。Project DIGITS旨在簡化AI開發(fā)工作流程,以緊湊、桌面友好的外形提供petaflop級AI系統(tǒng)的性能,這項(xiàng)創(chuàng)新將徹底改變AI研究人員、數(shù)據(jù)科學(xué)家和學(xué)生對大型AI 模型進(jìn)行原型設(shè)計(jì)、微調(diào)和部署的方式。
Project DIGITS基于NVIDIA的Grace Blackwell架構(gòu)構(gòu)建,結(jié)合了最新的GPU和CPU技術(shù)進(jìn)步。該系統(tǒng)可以在本地運(yùn)行2000億個參數(shù)模型,使其成為世界上最小的AI超級計(jì)算機(jī)。對于開發(fā)人員來說,這意味著能夠直接在其桌面上試驗(yàn)大規(guī)模AI模型,并無縫擴(kuò)展到云或數(shù)據(jù)中心環(huán)境。
Project DIGITS的核心是NVIDIA GB10超級芯片,這是一款片上系統(tǒng)(SoC),可在FP4精度下提供高達(dá)1 petaflop的AI性能。GB10將NVIDIA Blackwell GPU與下一代CUDA? 核心、Tensor核心和高性能NVIDIA Grace CPU相結(jié)合,該 CPU具有20個基于Arm的節(jié)能核心。這兩個組件通過NVLink-C2C 連接,確保高速通信和效率。
每個系統(tǒng)包括128GB的統(tǒng)一內(nèi)存LPDDR5X和高達(dá)4TB的NVMe存儲,使開發(fā)人員能夠處理許多要求苛刻的AI工作負(fù)載。對于更大的模型,可以通過NVIDIA ConnectX網(wǎng)絡(luò)連接兩個Project DIGITS系統(tǒng),從而允許用戶運(yùn)行具有多達(dá)4050億個參數(shù)的模型。
Project DIGITS不僅僅是一個硬件解決方案,它還是一個完整的AI開發(fā)平臺。該系統(tǒng)在基于Linux的 NVIDIA DGX OS上運(yùn)行,可與NVIDIA更廣泛的生態(tài)系統(tǒng)無縫集成,包括 NVIDIA DGX Cloud? 和數(shù)據(jù)中心基礎(chǔ)設(shè)施。這使開發(fā)人員能夠在本地構(gòu)建 AI 原型,并毫不費(fèi)力地將其工作擴(kuò)展到企業(yè)級環(huán)境。
該平臺還提供對NVIDIA廣泛軟件庫的訪問,包括實(shí)驗(yàn)、原型設(shè)計(jì)和部署工具。開發(fā)人員可以利用NVIDIA NGC目錄,該目錄提供預(yù)訓(xùn)練模型、框架和軟件開發(fā)工具包,完全支持PyTorch、Python和 Jupyter筆記本等常用工具,以及NVIDIA的專用框架,例如用于微調(diào)大型語言模型的NeMo?和用于數(shù)據(jù)科學(xué)加速的RAPIDS?。
對于構(gòu)建高級AI應(yīng)用程序的用戶,NVIDIA提供NVIDIA藍(lán)圖和NIM?微服務(wù),支持創(chuàng)建代理AI系統(tǒng)。準(zhǔn)備好投入生產(chǎn)后,開發(fā)人員可以使用NVIDIA AI Enterprise許可證過渡到企業(yè)級環(huán)境,該許可證提供安全性、支持和定期更新。
為下一代AI 創(chuàng)新賦能
借助Project DIGITS,NVIDIA使全球用戶能夠使用AI超級計(jì)算,通過將Grace Blackwell平臺的強(qiáng)大功能放在每個辦公桌上,該公司使開發(fā)人員、研究人員和學(xué)生能夠突破AI創(chuàng)新的界限。
無論是為生成式AI的下一個突破進(jìn)行原型設(shè)計(jì)、微調(diào)大型語言模型,還是開發(fā)代理AI應(yīng)用程序,Project DIGITS都能提供塑造AI未來所需的工具和性能。
Project DIGITS的售價為3,000 美元,將于今年5月通過頂級合作伙伴提供,它將在開發(fā)人員工作中創(chuàng)造范式轉(zhuǎn)變。
小編:
1. Project DIGITS主要面向AI從業(yè)人員,主要運(yùn)行Linux系統(tǒng),離成為大眾消費(fèi)市場設(shè)備還存在一定距離。
2. 黃教主在面向投資者和分析師的演講中暗示,Project Digits所用的CPU是由英偉達(dá)與聯(lián)發(fā)科共同開發(fā)的,而且這塊CPU有著更大的計(jì)劃;Project Digits這或許是NVIDIA進(jìn)軍500億美元PC與筆記本芯片市場的第一步。
3. 近幾年高通非常積極推廣Windows系統(tǒng)的ARM處理器,有消息稱已吸引聯(lián)發(fā)科、英偉達(dá)入局,不出意料的話,英偉達(dá)、MTK很可能基于Project Digits所用的ARM CPU,推出面向Windows PC的ARM處理器,并搭載AI PC需要GPU、CPU功能。
4.又多了一種新的設(shè)備,需要更多的DRAM及NVMe SSD(PCIe 4.0企業(yè)級SSD,TBD)。