TensorRT 4是什么應(yīng)用平臺
時光的憂傷
根據(jù)老黃的介紹,TensorRT 4是一款應(yīng)用平臺,并且TensorRT 4應(yīng)用平臺是能夠進行可編程的,大大給開發(fā)者帶來了便利。
據(jù)悉,利用TensorRT 4可編程平臺來進行編程操作,就能夠快捷地將已經(jīng)訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)快速部署到NVIDIA的GPU上,方便快捷。
新版的TensorRT 4應(yīng)用平臺也同時能夠支持INT8以及FP16精度運算,并且對于數(shù)據(jù)中心的功耗可以降低到70%。
此外,NVIDIA還會和谷歌進行相關(guān)的深度合作,旨在要想TensorRT 4整合到現(xiàn)在AI開源框架中去,并且加速AI應(yīng)用的推廣實行。