关于allreduce的讨论汇总 - 话题女王 - 未名观察

全部话题 - 话题: allreduce

s********k
发帖数: 6180

1

来自主题: Programming版 - AWS上做Deep learning large scale design

现在大规模做都是用 tree based allreduce还是ring based allreduce？

s********k
发帖数: 6180

2

来自主题: Programming版 - AWS上做Deep learning large scale design

就是说基本上现在做这些distributed还是用parameter server，不用allreduce？

compute

l*****x
发帖数: 3431

3

来自主题: Computation版 - [合集] 分子动力学程序，有人自己编吗？我快疯了。。。

用了Bcast和Allreduce，就没必要用send/recv了

未名新帖统计// 7月16日

#	版面	帖数(主题数)
-	全站	4871 (796)
1	Military	3777 (569)
2	Stock	341 (51)
3	Joke	117 (17)
4	History	116 (3)
5	Automobile	100 (9)
6	USANews	55 (9)
7	Midlife	45 (1)
8	Headline	41 (41)
9	Dreamer	33 (13)
10	FleaMarket	32 (20)
11	Living	30 (7)

* 这里只显示发帖超过25的版面，努力灌水吧:-)