5月28日|據日經亞洲,閃迪首席技術官(CTO)兼執行副總裁Alper Ilkbahar在接受訪問時稱,全球AI競賽越來越以存儲器而非算力為中心,這一趨勢或加劇全球史無前例的存儲器芯片供應緊張局面。他表示,單靠圖形處理器(GPU)、中央處理器(CPU)及原始運算能力,不足以應付日益複雜的AI工作負載。
Ilkbahar表示,有幾個趨勢正在令存儲器變得更為關鍵。首先,隨着大型語言模型變得更大、更智能,它們需要更多存儲器才能有效運作。其次,ChatGPT、Gemini及Claude等系統越來越依賴所謂的KV(key-value)快取。簡單而言,KV快取就像AI的短期記憶,讓它能夠記住之前的用户輸入及對話早期部分,而不必從頭開始重複計算每項內容。另外是混合專家模型,減少運算但增加存儲器。
他相信下一件大事將是高頻寬快閃存儲器(HBF),目前正在設計芯片,HBF存儲器晶粒將於今年底提供樣品,配備控制器的完整產品預計明年推出。HBF能提供遠高於高頻寬存儲器(HBM)的容量與存儲器密度,同時保持相近的頻寬,更適合未來的AI推論需求。閃迪已與SK海力士合作,共同制定HBF技術標準。
新聞來源 (不包括新聞圖片): 格隆匯