w***g
发帖数: 5958 | 1 Tensorrt这个版本还不行，太糙了。速度还不如tensorflow, 结果还是错的。
：业界离支持pytorch还远。例如nvidia的tensorRT还在从caffe往tensorflow转 |
|
C*****5
发帖数: 8812 | 2 NVDA在inference里也有发力。比如TensorRT。 |
|
C*****5
发帖数: 8812 | 3 当然是用GPU训练好了再deploy到DLA啊，而且deploy之前要用TensorRT优化一下。
fixed
a
platform |
|
C*****5
发帖数: 8812 | 4 N家帮其他公司做Deep Learning consulting，顺便推销自己的GPU，DLA和TensorRT之
类的 |
|
p**f
发帖数: 3549 | 5 CUDA是女大proprietary开发平台，闭源。
AMD GPU用的开源OpenCL。
开源搞不过闭源很正常，类似：
桌面系统，Linux搞不过Windows
手机系统，Android搞不过iOS
写个操作系统不难，难得是有人帮你写software，也就是eco system. 果子NB在它家
iOS是独占，eco system (app) 超级强大。CUDA也是，起步早，support好。别家AI还
没起步的时候，他家就已经有cuDNN/TensorRT全套解决方案了。
所以女大最NB的不是GPU本身（硬件），而是建立其上的CUDA library（软件）。女大
至少有一半R&D是软件。
64- |
|
C*****5
发帖数: 8812 | 6 速度不行可以试试TensorRT加速
tightly |
|
w*****r
发帖数: 197 | 7 业界离支持pytorch还远。例如nvidia的tensorRT还在从caffe往tensorflow转 |
|
w*****r
发帖数: 197 | 8 embedded platform现在还有没有tensorflow的binary。。。tensorflow架不到
tensorRT上，我就废了啊。。。 |
|
w***g
发帖数: 5958 | 9 一年前我就为转模型的事情受过伤，对鸡毛转模型软件很有抵触心里。
前阵子还出过人笨怪刀钝的笑话，自己代码不行非说tensorrt有bug。
哥几个能不能商量个学习路线？我头好晕。
deploy |
|
y*j
发帖数: 3139 | 10 我也是被tf的model deployment 搞得头晕眼花，最后放弃了，在caffe上重跑然后
deploy 了事交差。
我是这么认为的，tf和caffe是两种截然不同的存model的方式，它们之间的转换应该是
不可能的。pytorch 应该和caffe2 比较兼容，转换应该没有什么问题。
一家之言，欢迎抛砖引玉。
: 一年前我就为转模型的事情受过伤，对鸡毛转模型软件很有抵触心里。
: 前阵子还出过人笨怪刀钝的笑话，自己代码不行非说tensorrt有bug。
: 哥几个能不能商量个学习路线？我头好晕。
: deploy
|
|
|
