Nvidia發展GPUDirect儲存技術,大幅提升GPU載入大型資料集的速度

Nvidia發展了名為GPUDirect儲存(GPUDirect Storage)的資料傳輸技術,加快位在各種儲存的資料,傳輸到GPU記憶體的速度,可以將頻寬增加至原本的2到8倍,而且還能降低端到端的延遲達3.8倍。
由於人工智慧以及高效能運算的資料集規模不斷的增加,應用程式載入資料花費的時間越來越長,進而影響了應用程式的效能,而且特別是端到端架構,會因為緩慢的I/O使得運算速度日益提升的GPU無用武之地。Nvidia提到,將資料從儲存器載入到GPU,過去都是由CPU負責,而這將會成為硬體效能的瓶頸。

臉書留言

胡 自文

(這個頁面共進入 1 次, 今天進入 1 次)