TensorRT 4是什么應(yīng)用平臺(tái)
時(shí)光的憂傷
根據(jù)老黃的介紹,TensorRT 4是一款應(yīng)用平臺(tái),并且TensorRT 4應(yīng)用平臺(tái)是能夠進(jìn)行可編程的,大大給開發(fā)者帶來(lái)了便利。
據(jù)悉,利用TensorRT 4可編程平臺(tái)來(lái)進(jìn)行編程操作,就能夠快捷地將已經(jīng)訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)快速部署到NVIDIA的GPU上,方便快捷。
新版的TensorRT 4應(yīng)用平臺(tái)也同時(shí)能夠支持INT8以及FP16精度運(yùn)算,并且對(duì)于數(shù)據(jù)中心的功耗可以降低到70%。
此外,NVIDIA還會(huì)和谷歌進(jìn)行相關(guān)的深度合作,旨在要想TensorRT 4整合到現(xiàn)在AI開源框架中去,并且加速AI應(yīng)用的推廣實(shí)行。