Nvidia釋出TensorRT 8強化大型語言模型推理

Nvidia推出TensorRT 8，這是最新的人工智慧軟體開發工具包，能加速搜尋引擎、廣告推薦、聊天機器人等人工智慧應用，官方提到，與之前的版本相比，TensorRT 8可縮短一半的語言查詢推理時間。

臉書留言

(這個頁面共進入 1 次, 今天進入 1 次)