根據《Business Insider》取得的一份輝達 (NVDA.US) 內部文件顯示,美國銀行旗下的金融公司 Capital One 對於其與亞馬遜 (AMZN.US) 雲端服務(AWS)的合作中,AI 成本持續上升感到憂心,並可能正在尋找替代方案。
文件指出,一名輝達員工在內部 email 中提到,輝達曾與 Capital One 討論 AWS 以外的 AI 基礎設施選項,原因在於該銀行「希望控制成本」。
該名輝達員工是在近期一場科技會議上,與 Capital One 代表會面後,於內部信件中回顧並整理相關討論內容。
「他們已經看到自身對 GPU 與推理模型的需求持續成長,而在 AWS 上的成本很快就會失控。」該名輝達員工在信中如此形容 Capital One。
根據這封內部電郵內容,輝達與 Capital One 曾討論所謂的「AI 工廠(AI factory)」與「新型雲端(neo-clouds)」方案。所謂 AI 工廠,指的是企業自行建置的內部資料中心,可用來訓練與執行 AI 模型,作為向第三方租用運算資源的替代選項。依輝達說法,金融機構可利用這類基礎設施,應用於詐欺偵測、客戶服務,以及演算法交易等任務。
所謂「新型雲」是指新興的雲端服務供應商,通常以輝達硬體為核心,專注於 AI 工作負載;相較之下,AWS 則支援更為廣泛的運算需求。
主要的新型雲端業者包括 CoreWeave、Lambda、Crusoe 與 Nebius。輝達近年來與其中多家業者密切合作,部分原因在於希望降低對既有大型雲端巨頭作為客戶的依賴。
Capital One 的情況突顯了 AI 熱潮中的一項關鍵結構性變化:企業一方面競相導入生成式 AI,另一方面也試圖抑制不斷攀升的雲端成本。這項新技術確實潛力龐大,但無論是開發或執行 AI 模型與 AI 應用,所需成本都相當可觀。
大型企業也會定期檢視自身的雲端支出,並評估不同的部署架構,其中愈來愈多採取多家雲端服務商並行的策略。根據 RBC Capital 近期發布的報告,已有 43% 的企業同時使用超過兩家公有雲服務供應商。
Capital One 發言人在聲明中表示:「我們仍然致力於將 AWS 視為最主要的策略性雲端合作夥伴。」輝達則拒絕對此發表評論。
AWS 發言人表示:「我們的定價理念,是持續不懈地降低自身成本結構,並將這些節省下來的成本,以更低價格的形式回饋給 AWS 客戶。降價本身並不難,真正困難的是要有能力承擔降價;而在 AWS,我們為此投入了極大的努力。」
對 AWS 成本感到壓力的並不只有 Capital One。《Business Insider》10 月報導指出,根據亞馬遜於今年 3 月與 7 月的內部文件,AI 新創公司正愈來愈多延後傳統的 AWS 支出,轉而優先投入 AI 模型與開發者工具。
顧問公司 Synergy 的數據也顯示,AWS 的市佔率在 2022 年第二季達到頂峰,此後一直在緩慢下降,而甲骨文和其他新型雲的市佔率則在緩慢增長。但截至今年第三季度,AWS、微軟的 Azure 和 Google 雲端這三大雲端服務供應商仍佔企業雲端設施支出的 63%。
(美股為即時串流報價; OTC市場股票除外,資料延遲最少15分鐘。)新聞來源 (不包括新聞圖片): 鉅亨網