以ChatGPT為代表的生成式AI讓人們看到了智能世界的無限可能，指數級增長的多元化數據為千行百業的AI場景化奠定了基礎，而如何有效地采集、存儲、傳輸、處理數據和模型則成為實現高質量AI的關鍵。在Rambus大中華區總經理蘇雷看來，AI大流行的時代，訓練和推理都需要海量的數據支持，對于內存產品來說，首先是滿足高帶寬的要求，其次就是要考慮成本和復雜性，“GDDR技術在帶寬、成本和方案復雜性的各因素之間，提供了一種完美的折中技術方案。”

Rambus大中華區總經理蘇雷

作為一家領先的芯片和半導體IP供應商，Rambus致力于使數據傳輸更快更安全，關注產品的產品和方案的易用性，通過一站式的解決方案以及完善的服務機制，使產品方案變得更容易在客戶端集成使用。產品方面，Rambus的內存接口芯片不斷提高數據中心內存模塊的速度和容量，數據安全方面，Rambus有著豐富的安全IP產品線，對用于靜態數據和動態數據安全保護都有專門的產品方案，包括安全信任和MACsec和Ipsec等等，整體來說，Rambus的產品應用領域聚焦于服務器、主內存、智能網卡、網絡服務和交換機，以及面向未來的內存擴展和池化等市場。

(資料圖)

AI技術的深入應用推動了場景化智能的快速發展，數以千億計的參數模型越來越多，對處理器和帶寬提出了更高的要求，很多企業都開始研發定制化的處理器產品，以更好地滿足神經網絡和特定應用。然而，算力的顯著增長并未帶來帶寬的同步改善，很多GPU資源沒有得到充分的使用。把多樣化的數據進行分析、導入模型訓練之后，會在應用場景端進行推理，NLP、數據庫管理等應用越來越多的出現在邊緣環境中，數據傳輸量和響應延遲大幅下降。

“隨著AI推理的應用不斷向邊緣端遷移，我們會把已經訓練過的系統實現更快的處理方式，處理速度的提高是非常大的遷移到邊緣端的優勢。正是在這個變化的趨勢過程中，GDDR6也開始發揮作用。”Rambus IP核產品營銷高級總監Frank Ferro談到，“作為更加理想的方案，GDDR6有著高帶寬和低時延的特性，能夠幫助邊緣端更好地處理數據。”

Rambus IP核產品營銷高級總監Frank Ferro

如今，GDDR在AI/ML場景（如AI推理等）中有著廣泛的使用，還會應用于圖形計算、網絡等場景。與DDR相比，GDDR在帶寬、速度、功耗等方面有著顯著優勢，吸引了更多的客戶將其結合到各類先進設計中。通過Rambus GDDR6 PHY，客戶可以獲得24Gb/s的數據傳輸速率，為每個GDDR6內存設備帶來96GB/s的帶寬。作為系統級解決方案的一部分，Rambus GDDR6可以為AI/ML、圖形和網絡應用提供高效益、高帶寬、低延遲的內存接口解決方案。同時，RambusGDDR6 PHY還有著更優的功耗管理表現。

Rambus的產品實現了PHY和控制器的完整集成，其內存接口系統包括PHY物理層、控制器、DRAM和客戶端ASIC，其中，PHY的物理層與DRAM直接相連，接口由兩個16位插槽組成，共32位，另一側的DFI接口與內存控制器連接，控制器會直接接入整個系統的邏輯控制。Rambus會提供下圖中的藍色部分——即完整的子系統（與Rambus GDDR6數字控制器IP相結合），使得客戶可以根據場景所需進行定制化使用。此外，Rambus可以保障良好的系統級信號完整性和電源完整性（SI/PI），并且支持LabStation開發環境，能夠快速建立系統，進行特性分析和調試。

GDDR6內存接口子系統（控制器+PHY）

在GDDR6時代，有更多的產品開始采用16位雙讀寫通道，可以顯著增加數據的傳輸速度和效率，使得GDDR6內存中的8個雙讀寫通道能夠實現256位的數據傳輸寬度，進一步提升了系統層的效率、優化了功耗，還可以在邊緣環境中大幅降低設備對DDR數量的要求。在AI推理場景中，通常的帶寬需求在200-500Gb/s之間來，每個GDDR6設備的帶寬可以達到96Gb/s，通過將4-5個GDDR6設備進行組合，就能輕松滿足500Gb/s及以下的帶寬需求。

如果是在云端進行AI訓練，對成本因素不敏感的話，也可以選擇更大帶寬的HBM，如果是邊緣端則使用GDDR6效益更好，原因在于，HBM3設備能提供接近800Gb/s的帶寬，遠超AI推理所需的500Gb/s，考慮到其內存設計和制造難度較高，以及高度集成性（會使用一些中間插入層來處理和傳輸數據），并且可能需要更多的板卡空間，會導致成本會提升數倍。

除此之外，Rambus還有著更多的特性，包括clamshell模式，即每個信道可以支持兩個GDDR6的設備，相當于該模式下整個容量翻倍。GDDR6支持先進的FinFET工藝節點，并且會針對PCB和封裝提供相關的參考設計。在開發GDDR6子系統的時候，首先會對數據流進行模擬和建模，這一過程要確保最佳的數據輸出量和吞吐量，控制器、優化器會進一步管理內存數據，利用Look-Ahead技術，可以更好地通過數據順序內存位置進行精準預測，提供更優的數據路徑規劃，提前了解下一批進入DRAM的數據類型，優化應對機制。

Rambus能夠提供靈活的解決方案和一站式服務，包括PHY和控制器集成解決方案，以及全套的測試軟件用于快速啟動、校準和調試，使用交鑰匙的方式把集成測試好的子系統交付給客戶，加速芯片產品上市時間。如果客戶已經擁有控制器IP，只需要PHY IP授權，Rambus也可以單獨授權，并會提供后續相關的集成支持。今年夏季，Rambus GDDR6預計會推出完整的最終硅片，并計劃在2025-2026年有廠商會上市使用GDDR6 IP的芯片。“GDDR會應用在圖形處理器、自動駕駛、AI、5G基礎架構等場景中。Rambus24Gbps GDDR方案的推出，將這些應用提供更高級別的性能和更多的選擇。”蘇雷說。

關鍵詞：