g*****g 发帖数: 34805 | 1 发信人: goodbug (好虫), 信区: Programming
标 题: 应该给魏大师发10个图灵奖。
发信站: BBS 未名空间站 (Thu Nov 28 04:53:39 2013, 美东)
魏老师拍了一下脑袋,在两天的世界内,从完全对server app, cloud, NoSQL没有经验
的处男,一举成长为史上最牛逼的计算机科学家和工程师。我在这里列举一下魏老师的
成就,从小的说起。首先,魏老师做了一个比Cassandra快1-2数量级的NoSQL。
[
发信人: TeacherWei (TW), 信区: Programming
标 题: Re: 好虫,看看你的东东有没有问题?
发信站: BBS 未名空间站 (Fri Nov 22 16:52:13 2013, 美东)
说了这么多你还是没抓住重点。
我的系统也是NoSQL。Cassandra那点玩意儿做一个比他快1-2个数量级的也没问题。
]
其实,魏老师谦虚了。魏老师的单机系统,每秒处理500万,比起我们公司用Cassandra
288台机器才勉强撑到100万,是三个数量级的区别。从cassandra能值个5亿,魏老师
这NoSQL DB快1000倍,少说也值100亿吧?而且是2万刀一下的平民级硬件就攒出来了,
多一分也不行,必须的。
[
发信人: TeacherWei (TW), 信区: Programming
标 题: Re: 想请教魏老师一个方案中的理解问题。
发信站: BBS 未名空间站 (Wed Nov 27 16:22:57 2013, 美东)
按照我给定的问题的限制条件(紧耦合数据),这是世界上性能最好的方案了。
没有之一。而且,现实中,任何系统都有可能出上限。又不会死,只不过用户
多等一会儿。
我这个方案,每天500万张票在1秒中内出完。1000万张2秒钟内出完。
]
然而,这仍然完全低估了魏老师的价值。根据魏老师给的数据。nasdaq的最高纪录也不
过每秒58万单子,全天8.7亿。魏老师单机500万的速度。直接就提供了10倍的余量,史
上单子最多的时候,也不过3分钟就能处理完。nasdaq自己说用了几千个节点来做
exchange,换了魏老师的,一台机器,最多两台备份就完了。处理订单和数据都在一台
机器上,什么db2, oracle, 统统不需要。两万块的机器显然不算什么,最值钱的那就
是魏老师这个核心软件。魏老师要是自己开个exchange,就这点流量,那延迟还不得秒
杀nasdaq, nyse. ndaq之所以还没倒闭,全靠魏老师不出手呀。就冲这个,光收保护费
,魏老师至少也值1000亿。
[
http://www.mitbbs.com/article_t/Programming/31285523.html
Records
Order Volume 871,875,595
Orders per Second 581,696]
然而只是在工程上牛屄,不能证明魏老师的价值。魏老师又顺手把前人证明过的CAP
theorem给击破了。理论上的价值,堪比证明了P=NP 。这使我深深地相信,永动机是可
能的,只要魏老师想。
最后总结一下魏老师的成就。跟Knuth比,魏老师的理论贡献相当。然而工程上的贡献
,Knuth不如其十一。所以我觉得,今后十年的图灵奖都应该发给魏老师。
魏老师这些成就,一辈子做出一个,这里所有人都得给跪了。何况在两天之内从无到有
。像魏老师这种价值千亿的,分分钟都是几百万,肯陪我们谈技术,大家要当作珍稀动
物好好爱护和珍惜。
有鉴于此,我决定以后改称魏老师魏大师。 |
z****g 发帖数: 75 | 2 正经讨论点技术问题不好吗
有这尽头想办法在公司里往上混,或者自己想主义开startup
【在 g*****g 的大作中提到】![](/moin_static193/solenoid/img/up.png) : 发信人: goodbug (好虫), 信区: Programming : 标 题: 应该给魏大师发10个图灵奖。 : 发信站: BBS 未名空间站 (Thu Nov 28 04:53:39 2013, 美东) : 魏老师拍了一下脑袋,在两天的世界内,从完全对server app, cloud, NoSQL没有经验 : 的处男,一举成长为史上最牛逼的计算机科学家和工程师。我在这里列举一下魏老师的 : 成就,从小的说起。首先,魏老师做了一个比Cassandra快1-2数量级的NoSQL。 : [ : 发信人: TeacherWei (TW), 信区: Programming : 标 题: Re: 好虫,看看你的东东有没有问题? : 发信站: BBS 未名空间站 (Fri Nov 22 16:52:13 2013, 美东)
|
g*****g 发帖数: 34805 | 3 这不是讨论技术问题嘛,nasdaq的数据具在。魏公公单机就秒了,你信吗?
我老最见不得就是这种装逼还死撑的。出来一次打一次。
【在 z****g 的大作中提到】![](/moin_static193/solenoid/img/up.png) : 正经讨论点技术问题不好吗 : 有这尽头想办法在公司里往上混,或者自己想主义开startup
|
l**********n 发帖数: 8443 | |
z****g 发帖数: 75 | 5 单机5M RPC / sec 我信,做transaction如果用高性能flash disk也是可以的
前提是很简单的transaction没啥计算,就是简单数据copy
【在 g*****g 的大作中提到】![](/moin_static193/solenoid/img/up.png) : 这不是讨论技术问题嘛,nasdaq的数据具在。魏公公单机就秒了,你信吗? : 我老最见不得就是这种装逼还死撑的。出来一次打一次。
|
T********i 发帖数: 2416 | 6 goodbug这人人品有问题。根本不是客观讨论,纯粹就是恶毒的人身攻击。
【在 z****g 的大作中提到】![](/moin_static193/solenoid/img/up.png) : 单机5M RPC / sec 我信,做transaction如果用高性能flash disk也是可以的 : 前提是很简单的transaction没啥计算,就是简单数据copy
|
g*****g 发帖数: 34805 | 7 nasdaq的数据在那里,你信我不信。nasdaq几千个机器的cluster,如果一台能做了,
不是傻逼吗?
【在 z****g 的大作中提到】![](/moin_static193/solenoid/img/up.png) : 单机5M RPC / sec 我信,做transaction如果用高性能flash disk也是可以的 : 前提是很简单的transaction没啥计算,就是简单数据copy
|
T********i 发帖数: 2416 | 8 只有你是傻逼。从6行代码7个错误看出,你智商也有问题,理解力低下。
【在 g*****g 的大作中提到】![](/moin_static193/solenoid/img/up.png) : nasdaq的数据在那里,你信我不信。nasdaq几千个机器的cluster,如果一台能做了, : 不是傻逼吗?
|
c*****a 发帖数: 1638 | 9 不做系统和硬件,单机5M RPC/s我不知道啥概念
但是SSD有这么高IO?
我的记忆里,SSD最多也就是几千到几万IO/s了不起了?
难道我上礼拜的培训听到的是错的?懒得翻书了
【在 z****g 的大作中提到】![](/moin_static193/solenoid/img/up.png) : 单机5M RPC / sec 我信,做transaction如果用高性能flash disk也是可以的 : 前提是很简单的transaction没啥计算,就是简单数据copy
|
z****g 发帖数: 75 | 10 nasdaq 处理每个message 牵涉到的东西很多,计算量大,而且做很多辅助的工作
而且是很老的系统,几千个节点也正常
用现在最新的公开硬件,x86单机,牛x的NIC,专门的软件,做个 5M/sec 的RPC是不难的
然后做persistence,用flash disk写log,也没啥问题
当然这个单机就是最简单的数据复制,无法完成现在nasdaq的功能
【在 g*****g 的大作中提到】![](/moin_static193/solenoid/img/up.png) : nasdaq的数据在那里,你信我不信。nasdaq几千个机器的cluster,如果一台能做了, : 不是傻逼吗?
|
|
|
T********i 发帖数: 2416 | 11 Fusion I/O 9M IOPS。
http://www.fusionio.com/press-releases/fusion-io-achieves-more-
Goodbug拒绝承认。继续连续两个月对我人身攻击。
这种人是人渣。
各位为何还允许这人人存在?我不理解。
【在 c*****a 的大作中提到】![](/moin_static193/solenoid/img/up.png) : 不做系统和硬件,单机5M RPC/s我不知道啥概念 : 但是SSD有这么高IO? : 我的记忆里,SSD最多也就是几千到几万IO/s了不起了? : 难道我上礼拜的培训听到的是错的?懒得翻书了
|
z****g 发帖数: 75 | 12 现在的通用RPC系统估计不行,得自己做RPC软件
flash disk没机械部件,就是电子信号寻址,而且可以并行,控制电路做好了,5M
IOPS没啥问题
5M IOPS 数据本身带宽不高
【在 c*****a 的大作中提到】![](/moin_static193/solenoid/img/up.png) : 不做系统和硬件,单机5M RPC/s我不知道啥概念 : 但是SSD有这么高IO? : 我的记忆里,SSD最多也就是几千到几万IO/s了不起了? : 难道我上礼拜的培训听到的是错的?懒得翻书了
|
K****n 发帖数: 5970 | 13 CAP theorem 有证明?我以为是个经验
【在 g*****g 的大作中提到】![](/moin_static193/solenoid/img/up.png) : 发信人: goodbug (好虫), 信区: Programming : 标 题: 应该给魏大师发10个图灵奖。 : 发信站: BBS 未名空间站 (Thu Nov 28 04:53:39 2013, 美东) : 魏老师拍了一下脑袋,在两天的世界内,从完全对server app, cloud, NoSQL没有经验 : 的处男,一举成长为史上最牛逼的计算机科学家和工程师。我在这里列举一下魏老师的 : 成就,从小的说起。首先,魏老师做了一个比Cassandra快1-2数量级的NoSQL。 : [ : 发信人: TeacherWei (TW), 信区: Programming : 标 题: Re: 好虫,看看你的东东有没有问题? : 发信站: BBS 未名空间站 (Fri Nov 22 16:52:13 2013, 美东)
|
g*****g 发帖数: 34805 | 14 12306一个单子也很复杂,你以为是echo service? 更何况魏公公让他做个 echo 5M的
prototype他都不敢。
没卵蛋的东西。
难的
【在 z****g 的大作中提到】![](/moin_static193/solenoid/img/up.png) : nasdaq 处理每个message 牵涉到的东西很多,计算量大,而且做很多辅助的工作 : 而且是很老的系统,几千个节点也正常 : 用现在最新的公开硬件,x86单机,牛x的NIC,专门的软件,做个 5M/sec 的RPC是不难的 : 然后做persistence,用flash disk写log,也没啥问题 : 当然这个单机就是最简单的数据复制,无法完成现在nasdaq的功能
|
z****g 发帖数: 75 | 15 我只是说5M/sec 单机 RPC和简单transaction 是可以实现的
但是需要定制一些基本的软件,譬如RPC系统和storage
具体订票里面要做啥计算,我不清楚,
单机做数据库服务器,不做异地灾备,不做 本地replicated DB server,处理
订票得的transaction (1M/sec), 我觉得也是可以的
但是我不相信现在能买到这样的系统,得自己做
的
【在 g*****g 的大作中提到】![](/moin_static193/solenoid/img/up.png) : 12306一个单子也很复杂,你以为是echo service? 更何况魏公公让他做个 echo 5M的 : prototype他都不敢。 : 没卵蛋的东西。 : : 难的
|
b*******s 发帖数: 5216 | 16 大系统不做容灾是不行的
【在 z****g 的大作中提到】![](/moin_static193/solenoid/img/up.png) : 我只是说5M/sec 单机 RPC和简单transaction 是可以实现的 : 但是需要定制一些基本的软件,譬如RPC系统和storage : 具体订票里面要做啥计算,我不清楚, : 单机做数据库服务器,不做异地灾备,不做 本地replicated DB server,处理 : 订票得的transaction (1M/sec), 我觉得也是可以的 : 但是我不相信现在能买到这样的系统,得自己做 : : 的
|
g*****g 发帖数: 34805 | 17 魏公公的机器预算2万刀,你从OS开始写我也不相信能做出来。
【在 z****g 的大作中提到】![](/moin_static193/solenoid/img/up.png) : 我只是说5M/sec 单机 RPC和简单transaction 是可以实现的 : 但是需要定制一些基本的软件,譬如RPC系统和storage : 具体订票里面要做啥计算,我不清楚, : 单机做数据库服务器,不做异地灾备,不做 本地replicated DB server,处理 : 订票得的transaction (1M/sec), 我觉得也是可以的 : 但是我不相信现在能买到这样的系统,得自己做 : : 的
|
g****r 发帖数: 1589 | 18 已经证明过了的吧,要不然也不会流行开
【在 K****n 的大作中提到】![](/moin_static193/solenoid/img/up.png) : CAP theorem 有证明?我以为是个经验
|
z****g 发帖数: 75 | 19 如果你不相信,你说说瓶颈在哪里
【在 g*****g 的大作中提到】![](/moin_static193/solenoid/img/up.png) : 魏公公的机器预算2万刀,你从OS开始写我也不相信能做出来。
|
g*****g 发帖数: 34805 | 20 没有被证明的东西我都不相信,我做server 应用那么多年,没见过一个实例,或者任
何一个文章说能处理每秒5M次的请求。当然我说的是x86架构,大型机不在这个范畴,2
万美刀能买的机器本来就说不上多好。瓶颈在于IO.
【在 z****g 的大作中提到】![](/moin_static193/solenoid/img/up.png) : 如果你不相信,你说说瓶颈在哪里
|
|
|
z****g 发帖数: 75 | 21 你不知道+接触不到不等于没有,公开的资料也不是没有,你去看看系统方面2011/
2010左右的文章
实际业界最早应该是做高频交易的在用,然后Internet公司开始用,这都要比academic
的文章要早好几年
5M/s RPC 的单机软件系统买不到,但是这样的硬件NIC+switch还是很容易买到的,然
后自己做软件系统
TW估计有个自己做的比较简单的软件层做RPC
,2
【在 g*****g 的大作中提到】![](/moin_static193/solenoid/img/up.png) : 没有被证明的东西我都不相信,我做server 应用那么多年,没见过一个实例,或者任 : 何一个文章说能处理每秒5M次的请求。当然我说的是x86架构,大型机不在这个范畴,2 : 万美刀能买的机器本来就说不上多好。瓶颈在于IO.
|
g*****g 发帖数: 34805 | 22 nasdaq不是高频交易系统?这个速度秒了他们峰值10倍,何况2万的机器,扯得没边了。
你弄个最深的蓝过来我还能信。
academic
【在 z****g 的大作中提到】![](/moin_static193/solenoid/img/up.png) : 你不知道+接触不到不等于没有,公开的资料也不是没有,你去看看系统方面2011/ : 2010左右的文章 : 实际业界最早应该是做高频交易的在用,然后Internet公司开始用,这都要比academic : 的文章要早好几年 : 5M/s RPC 的单机软件系统买不到,但是这样的硬件NIC+switch还是很容易买到的,然 : 后自己做软件系统 : TW估计有个自己做的比较简单的软件层做RPC : : ,2
|
z****g 发帖数: 75 | 23 2万刀现在还真搭的起来
能达到这个 速度不一定要用啊
在netflix学不到啥系统技术,因为那公司文化出不了啥厉害的东西
了。
【在 g*****g 的大作中提到】![](/moin_static193/solenoid/img/up.png) : nasdaq不是高频交易系统?这个速度秒了他们峰值10倍,何况2万的机器,扯得没边了。 : 你弄个最深的蓝过来我还能信。 : : academic
|
g*****g 发帖数: 34805 | 24 2万刀能搭起一个机器,能撑住比nasdaq峰值还快一个数量级的请求。LOL。还是那句话
,吹牛逼谁都会,把系统搭起来大家看看就是。
你对云计算完全没有了解,评论netflix你不配。
【在 z****g 的大作中提到】![](/moin_static193/solenoid/img/up.png) : 2万刀现在还真搭的起来 : 能达到这个 速度不一定要用啊 : 在netflix学不到啥系统技术,因为那公司文化出不了啥厉害的东西 : : 了。
|
z****g 发帖数: 75 | 25 嘿嘿,有意思
本着我良好的愿望,你去看看13年下半年的CACM,或者去Stanford搞系统的人11年发的
papers看看
然后静下心来想想,谦虚得看看书还是有帮助的
netflix公司牛在商业模型上,当然也是一个可以作为一个public cloud上一个很成功
的例子
做poster child还不错
但是对cloud computing/distributed computing的技术贡献目前基本上没啥
【在 g*****g 的大作中提到】![](/moin_static193/solenoid/img/up.png) : 2万刀能搭起一个机器,能撑住比nasdaq峰值还快一个数量级的请求。LOL。还是那句话 : ,吹牛逼谁都会,把系统搭起来大家看看就是。 : 你对云计算完全没有了解,评论netflix你不配。
|
g*****g 发帖数: 34805 | 26 赫赫,不如拿个商业系统来看看吧。12306可不是一个paper能忽悠过去的。纸上学来终
觉浅。拿个paper, 春运让你当小白鼠?
至于netflix对cloud computing的技术贡献基本没啥,打脸的文章多的是,不如你先学
点常识再来?
http://www.networkworld.com/news/2013/072413-netflix-cloud-2721
Why Netflix is one of the most important cloud computing companies
http://gigaom.com/2013/12/02/netflix-is-balancing-its-streaming
However, as impressive as Netflix’s engineering might be, it’s on the
cutting edge of how companies are architecting their cloud resources and is
by no means attainable by the majority of cloud users. That means there’s a
big opportunity for cloud providers to automate this type of capability for
their users in an effort to push cloud computing closer to that dream of
geographically-aware and resilient applications. Google and AWS, at least,
are already working on it, but they appear to be a way off from where
Netflix is at this point.
http://gigaom.com/2013/11/22/why-tech-giants-turn-to-netflix-fo
Why is it that IBM, Paypal and other tech powers turn to a video streaming
company for help with technology? There’s a very good reason.
【在 z****g 的大作中提到】![](/moin_static193/solenoid/img/up.png) : 嘿嘿,有意思 : 本着我良好的愿望,你去看看13年下半年的CACM,或者去Stanford搞系统的人11年发的 : papers看看 : 然后静下心来想想,谦虚得看看书还是有帮助的 : netflix公司牛在商业模型上,当然也是一个可以作为一个public cloud上一个很成功 : 的例子 : 做poster child还不错 : 但是对cloud computing/distributed computing的技术贡献目前基本上没啥
|
z****g 发帖数: 75 | 27 我没说要拿什么paper忽悠谁,我就是说系统方面现在单机5M/sec可以实现
这几篇报道就是说netflix是EC2 public cloud上很成功,这个我也同意啊
但没说netflix技术怎么领先
netflix这些东西上是operational方面的
is
a
【在 g*****g 的大作中提到】![](/moin_static193/solenoid/img/up.png) : 赫赫,不如拿个商业系统来看看吧。12306可不是一个paper能忽悠过去的。纸上学来终 : 觉浅。拿个paper, 春运让你当小白鼠? : 至于netflix对cloud computing的技术贡献基本没啥,打脸的文章多的是,不如你先学 : 点常识再来? : http://www.networkworld.com/news/2013/072413-netflix-cloud-2721 : Why Netflix is one of the most important cloud computing companies : http://gigaom.com/2013/12/02/netflix-is-balancing-its-streaming : However, as impressive as Netflix’s engineering might be, it’s on the : cutting edge of how companies are architecting their cloud resources and is : by no means attainable by the majority of cloud users. That means there’s a
|
g*****g 发帖数: 34805 | 28 不是商业系统,都是个屁,骗 funding的,还真信了。Netflix全套 PaaS 开源类库,
一堆公司在用,就只是 operational? 真是不懂装到底。
【在 z****g 的大作中提到】![](/moin_static193/solenoid/img/up.png) : 我没说要拿什么paper忽悠谁,我就是说系统方面现在单机5M/sec可以实现 : 这几篇报道就是说netflix是EC2 public cloud上很成功,这个我也同意啊 : 但没说netflix技术怎么领先 : netflix这些东西上是operational方面的 : : is : a
|