Howie Su
大 AI 模型還不夠看，還要有大算力支撐
Google 的 AI打法一波接一波，除了前幾週的開發者（I/O）大會上宣佈推出大型語言模型 PaLM2 外，近期又推出超級電腦「A3」，打算從 AI 的模型到算力軍備一次補齊，A3 是一種擁有 26,000 個 Nvidia H100 Hopper GPU 的 AI 超級電腦（世界上最快的超級電腦 Frontier擁有 37,000 個 AMD Instinct 250X GPU），宣告與微軟爭奪 AI 霸權的戰鬥中，Google 計畫投入更多資源進行絕地大反攻。
A3 超級電腦是對現有 A2 款式與 Nvidia A100 GPU 提供的運算資源的重大升級，公司正在將所有分佈在不同地理位置的 A3 運算實例匯集到一台超級電腦中，該超級電腦的主力客群是希望訓練大型語言模型的企業，當前不少雲端服務業者都在部署 H100 GPU，Nvidia 在 3 月份推出自己的 DGX 雲端服務，除了模型大小，以 GPU 數量為指標運算能力現在也變成科技業肉搏戰的中心。
圖、Google的A3電腦具備26,000顆GPU算力
資料來源：Enterprise AI
A3 是第一個透過名為 Mount Evans 的基礎設施處理單元連接 GPU 實例的虛擬機，該單元由 Google 和 Intel 聯合開發，IPU 允許 A3 虛擬機卸載網絡、存儲管理和安全功能，這些功能傳統上是在虛擬 CPU 上完成的，IPU 允許以 200Gbps 的速度傳輸數據，A3 超級電腦將裝備八個 H100 GPU。
功能上來說，這些 GPU 使用 Nvidia 專用的交換和晶片技術互連，同時將透過 NVSwitch 和 NVLink 相互連接，其通訊速度約為 3.6 TBps， 然，Google 死敵微軟的 Azure 也在 AI 超級電腦上提供相同的速度，並且兩家公司都部署 Nvidia 的電路板設計，可以說在基礎建設上這兩家巨頭都需要 NVIDIA 的支援，那 Google 要如何突出？
Google的「超級運算力策略」正在啟動
事實上，GPU 的數量已經成為雲端提供商推廣其 AI 運算服務的重要招牌，微軟在 Azure 中的 AI 超級電腦與 OpenAI 合作，擁有 285,000 個 CPU 內核和 10,000 個 GPU，微軟還宣布配備更多 GPU 在下一代的 AI 超級電腦，Oracle 的雲端服務提供對512 個 GPU，並且正在研究新技術以提高 GPU 通訊的速度；Google持續強調其 TPU v4 人工智慧晶片，這些晶片被運行於帶有大型語言模型的內部人工智慧應用程式，TPU v4從2020年用於Google Cloud，搭載TPUv4的超級電腦提供Exascale等級的ML效能，例如在Google的 Bard 產品，公司的 AI 子公司 DeepMind 指出，TPU正在快速提升 AI 各種應用。
就像Google對 TPU的熱衷一樣，Nvidia 的 GPU 已經成為雲端提供商的必需品，因為客戶正在 CUDA 中編寫 AI 應用程式，這是 Nvidia 專有的編程模型，該軟體工具包基於 H100 的專用 AI 和圖形內核提供的加速生成最快的結果，客戶可以透過 A3超級電腦運行 AI 應用程式，並透過 Vertex AI、Google Kubernetes Engine與Google Compute Engine 服務使用 Google 的 AI 開發和管理服務，公司可以使用 A3 超級電腦上的 GPU 作為一次性租用，結合大型語言模型來執行訓練，然後再將新的資料輸入模型，並在無需從頭開始重新訓練狀況下更新模型，一套完整的流程，就是「超級運算力策略」。
作者簡介｜Howie Su
產業分析師，熱愛前瞻技術與科技產業，曾服務於家族辦公室研究單位，對於商業觀測、趨勢演進與財務併購具濃厚興趣。愛貓，亦愛浮潛與跳傘。
創新未來學校 推薦課程：
8/5、8/9 隆重開班 熱烈招生中!
競品分析6步驟
撰寫「競品分析」報告要領
成為優秀的產品經理！
🔎 更多業界優質課程，歡迎洽詢：
創新未來學校｜線上學習顧問LINE@
創新未來學校｜FB粉絲專頁
創新未來學校｜Instagram
Comments