xAI有望斥資100億美元租用甲骨文伺服器!年底達10萬台H100
有新Newin-芯片客 / 何渝婷編譯
2024-05-15 15:25

(示意圖/取自pixabay)

根據外媒最新消息,馬斯克的 xAI 一直在與甲骨文高管討論,以在未來幾年斥資 100 億美元租用伺服器。

目前為止,XAI 已經是 Oracle 最大的 H100 客戶,使用了超過 1.5 萬個晶片,新的 100 億美元交易將使 xAI 成為甲骨文最大的客戶之一。

上個月,馬斯克在 X 上的音訊聊天中表示,xAI 將需要 10 萬個 H100 GPU 來訓練 Grok 3.0。

目前為止,xAI 的競爭對手已經在訓練和運行 AI 所需的專用伺服器上花費了數十億美元,馬斯克試圖迅速趕上競爭對手,計劃這筆 100 億美元交易規模與 OpenAI 以及 Anthropic 與雲端廠商達成的交易規模相似。

微軟已經向 OpenAI 承諾了超過 130 億美元,主要是為了讓 ChatGPT 開發者能夠付費從微軟數據中心租用伺服器來支持其業務。

根據 OpenAI 去年預計,僅到 2023 年,就會在雲端運算上花費超過 10 億美元,部分原因是使用配備NVIDIA的 AI 晶片。

Anthropic 已經從亞馬遜和Google那裡獲得 70 億美元投資,主要是為了讓這家新創公司可以租用他們的雲端伺服器。

目前,xAI 正在完成一輪 60 億美元的股權融資,以此覆蓋雲端成本,而最新 100 億美元的預算,也意味著 xAI 未來需要籌集更多資金,馬斯克希望這輪融資將加快其租賃晶片的能力,並幫助其在 2025 年下半年某個時候達到 10 萬個 GPU。

根據 SemiAnalysis 分析師表示,租用 10 萬台 H100 意味著每年可能花費約 17 億美元,而即將推出的 GB200 可能貴 50%。

當前,xAI 正在大約 2 萬個 H100 晶片上訓練 Grok 2.0,與其他 AI 開發人員使用的數據相比,這個數字仍然很小。

微軟計劃在今年和明年為 OpenAI 提供容納數十萬個 GPU 伺服器,而祖克柏表示,到 2024 年底 Meta 將擁有 35 萬台 H100,其中一些將用於訓練公司的 Llama 開源 AI 模型。

本文為AI新智界授權刊登,原文標題為「外媒爆馬斯克 xAI 將斥資 100 億美元租用甲骨文服務器!年底達 10 萬台 H100