2023-08-09
【財訊快報／陳孟朔】人工智慧(AI)股王Nvidia(美股代碼NVDA)週二宣布推出新AI晶片GH200，與Nvidia現時高端晶片H100一樣是圖像處理器晶片(GPU)，GH200配備141GB記憶體，以及72核心ARM中央處理器。外電報導，Nvidia執行長黃仁勳指出，GH200於明年第二季出貨，今年底可提供樣品，但未有公布價格。
GH200是為推論而設計，因為它有更大的記憶體容量，容許更大的人工智慧模型安裝在單組系統上。
Nvidia的H100擁有80GB內存，GH200則為141GB，並且支援單一電腦組合兩個GH200，以適用於更大的模型。
Buck指出，擁有更大的記憶體可以讓語言模型保留在單一個GPU上運行，不需要多個系統或多個GPU才能運行。
沒有留言:
張貼留言