6月5日消息，據路透社報道，根據非營利機構MLCommons最新出具的AI系統性能報告顯示，英偉達（NVIDIA）最新一代Blackwell GPU芯片的AI模型訓練速度超過了上一代Hopper GPU的兩倍以上。

根據報告顯示，在利用英偉達、AMD等廠商的AI芯片針對Meta旗下4,050億參數“Llama 3.1”等人工智能模型的訓練中，2,496顆Blackwell芯片只花27分鐘就完成AI模型的訓練任務。相較之下，Hopper芯片需要三倍以上的數量，完成訓練的時間才能略快一些。

與英偉達合作產出上述部分性能測試結果的CoreWeave產品負責人Chetan Kapoor表示，AI產業如今逐漸傾向把一小群芯片串接成次系統，用來進行不同的AI訓練任務，而不是像過去那樣打造動輒100,000顆同質芯片（甚至更多）的巨大訓練叢集。

Kapoor說，那些參數規模達到上萬億參數的巨大AI模型，只要通過這種方式，就能加快或減少訓練時間。

值得注意的是，據Barron’s報導，英偉達加速運算部門負責人Ian Buck 4日在美銀全球科技大會（BofA Securities Global Technology Conference）上表示，AI推論（Inference）出現爆炸性需求，主要是受到自動推理（reasoning）的模型日漸獲得應用帶動。他說，推理功能“增添了非常多價值”。