資料中心解決方案

AI 工廠

加速並部署專為 AI 工廠打造的完整堆疊 AI 基礎架構與軟體。

概覽

AI 推理時代的 AI 工廠

AI 擴展定律正推動整個 AI 生命週期各階段前所未有的運算需求,包括從資料匯入與訓練,到微調與長時思考的推理。為了滿足這項需求,出現了一種全新的運作模式:AI 工廠。 有別於傳統資料中心,AI 工廠是專為大規模製造智慧而打造,將加速運算基礎架構與 AI 軟體緊密整合,以最佳化 token 生成(AI 的基本單位)的產出。

AI 工廠將—能源、晶片、基礎架構、模型與應用程式—五個關鍵層整合至一個系統,專為代理式 AI物理 AI 與高效能運算 (HPC) 的需求而設計。 AI 工廠透過搭載 NVIDIA 端到端加速運算解決方案,實現最高的效能與能源效率,讓企業能部署安全且符合未來需求的 AI,同時將投資報酬率 (ROI) 最大化。

了解 NVIDIA 如何打造 AI 工廠

探索 NVIDIA IT 如何在內部應用自家 AI 工廠模式,在企業範圍內擴充 AI 規模。NVIDIA 透過整合 AI 軟體與基礎架構並部署 AI 代理程式,大幅提升生產力、簡化營運流程,並展示真實世界的 AI 藍圖。

NVIDIA 釋出 Vera Rubin DSX AI 工廠參考設計

NVIDIA Vera Rubin DSX AI 工廠參考設計與 Omniverse DSX 藍圖相輔相成,既能指導高效能 AI 基礎架構,同時讓數位孿生在部署前先設計及模擬 AI 工廠。

優勢

建設、部署並連結 AI 工廠

利用 NVIDIA 的 AI 工廠激發競爭優勢,大規模生產數碼智能。 體驗前所未有的效率、加速 AI 推理,並為未來創新做好準備。

更快實現價值

NVIDIA 的 AI 工廠透過提供預先設計的機架級方案、安全 AI,以及整合式軟體堆疊,作為可組合的即用構建模塊,加速大規模實現智慧化。

每個 Token 配備更高效能及能源效率

NVIDIA 的加速運算透過最佳化 AI 效能,每瓦提供更多 Token,同時大幅提升 AI 工廠與應用程式的能源效率

合作夥伴生態系統驗證

NVIDIA 與合作夥伴在全球提供 AI 工廠,採用基於 NVIDIA 加速運算與參考架構的整合式完整堆疊解決方案。

可擴充 AI 部署

AI 工廠專為策略成長而打造,推動可擴充的智慧製造,而模組化升級可將 AI 投資最大化,實現長期回報。

NVIDIA IT 的 AI 工廠大規模帶動企業創新

NVIDIA 打造統一化的 AI 工廠,在全企業擴大生成式 AI 與代理工作流程的規模,確保安全性、效能與一致性。該平台支援數成千上百款 AI 代理,可加速創新、簡化軟硬體工程,並將供應鏈作業最佳化,並將規劃時間縮短 95% 以上,在短短一年內便達成數十年的工程成就。

基礎架構

NVIDIA Enterprise AI 工廠驗證設計

利用 NVIDIA Enterprise AI 工廠驗證設計大規模打造 AI 工廠,該設計提供在 NVIDIA Blackwell 平台部署自主 AI、物理 AI 和高效能運算工作負載的指導。

產品

AI 工廠的背後技術

NVIDIA Blackwell 架構、加速網路和 NVIDIA AI 軟體結合,可提供高效能、可擴充性和可用於生產的 AI 功能。

NVIDIA Blackwell:AI 工廠引擎

NVIDIA Blackwell 透過統一架構支援完整的 AI 生命週期,提供突破性的效能、能源效率與可擴充規模。針對現代 AI 工作負載進行最佳化後,可加速訓練、微調,以及代理式模型與推理模型的長時思考推理。

利用高頻寬網絡擴展 AI

NVIDIA 的網路技術透過超低延遲與高頻寬連線,將 AI 訓練與推理的效能最大化。共同設計的 GPU、SuperNIC 與 DPU 可確保高效且可擴充的基礎架構,同時,智慧壅塞管理與自適應路由可在大規模環境中將多節點、多 GPU 的效能最佳化。

加速 AI 開發和部署

NVIDIA AI Enterprise 是一套端到端軟體套件,可從開發到正式運行加速企業 AI 與代理式 AI,使組織能有效率地擴充 AI。智慧協調管理透過動態資源分配將 GPU 使用率最大化,且進階模擬與基於 OpenUSD 的工作流程則支援物理 AI 與數位孿生應用。

NVIDIA Rubin 平台

NVIDIA Rubin 平台

新一代 AI

NVIDIA Rubin 平台推動現代 AI 工廠,大規模加速代理式 AI 與進階推理。透過高度整合的晶片共同設計,大幅提升推論效能,相較於 NVIDIA Blackwell 世代,能以更低的每個 token 成本提供更高的每瓦 token 輸出。

解決方案

AI 工廠知識中心

攜手 NVIDIA 及生態系統合作夥伴,探索經過驗證的架構、驗證設計與資料平台指導,一同設計、建置並部署 AI 工廠。

利用 NVIDIA 驗證設計,打造完整堆疊 AI 工廠

NVIDIA 企業 AI 工廠是一款經驗證的設計,專為建置與內建 AI 工廠提供經驗證的完整堆疊指導。這種設計已在廣泛的合作夥伴 ISV 生態系統中驗證,可確保與頂尖的企業 AI 軟體、開放模型與基礎架構平台互通。可簡化部署、降低風險,並加速正式運行下的 AI。

透過 NVIDIA 企業參考架構加速 AI 基礎架構

AI 工廠叢集設計藍圖提供針對 AI 工作負載提供最佳化的跨運算、網路與儲存的詳細指導。這些設計已在 NVIDIA 認證合作夥伴生態系中驗證,可確保與頂尖的伺服器、加速器與儲存平台互通,同時簡化部署並支援擴充,加速實現價值。

利用 NVIDIA AI 資料平台,提供 AI 就緒資料

這是一套可自訂的參考設計,將加速運算與企業級存儲整合,提供低延遲、高效能的 AI 資料管道。與頂尖的存儲合作夥伴共同打造,提升代理式 AI 與檢索增強工作流程的效能與準確度,同時採用零信任架構,結合加速加密與即時威脅偵測,保護資料並確保合乎規範。

利用 NVIDIA DSX 參考設計,部署千兆瓦級 AI 工廠

NVIDIA DSX 是一套全方位框架,用於建置經共同設計的 AI 基礎架構,以最大化每瓦所產生的 token 數量,並加速達到首次正式運行的時間。其開放且模組化的軟體堆疊將運算、電力、散熱、網路與營運管理整合至統一架構,使 AI 工廠得以可擴充且節能的方式運作。DSX 在廣泛產業生態系的支援下,可協助組織簡化部署、降低風險,並以更高效能與信心運行 AI 基礎架構。

資源

閱讀 AI 工廠的最新消息

人工智慧工廠掀起新工業革命

探索 NVIDIA 技術如何被用於打造 AI 工廠,推動加速運算與即時生成式 AI 的新時代。

利用數位孿生技術打造千兆瓦級 AI 工廠

瞭解 NVIDIA Omniverse Blueprint 的 AI 工廠數位孿生如何實現資料中心的設計及最佳化,確保 AI 工廠符合未來需求。

人工智慧工廠

了解 AI 工廠如何產生 Token,協助打造一個充滿無限可能性的未來,並透過人類創意和 NVIDIA 加速實現。

下一步

準備好開始了嗎?

了解如何大規模部署完整堆疊的企業 AI 工廠。

前往 NVIDIA Marketplace

探索產品和解決方案,協助您開始為 AI 工廠擴充 AI 基礎架構,加速實現物理和代理式 AI 工作負載的價值。