由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Programming版 - 蚂蚁金服自主研发数据库OceanBase每秒处理4200万次请求zt (转载)
相关主题
废话少说,单机500万次每秒DNN就是hype (转载)
真心请教,究竟怎么设计才能处理每秒100万次的写操作问几个神经网络的问题
FPGA-based DNNs大部分人还认为阿法狗在背棋谱 (转载)
大众理财时代,互联网平台和金融机构和气生财(转载)关于搞ML刷数据的职业前途
魏老师的方案100伪币悬赏:CNN这个东西本质上处理不了形变
魏老师拿不出10万次/秒写的数据库transfer learning是不是接近人类学习的本质了?
阿里云计算有多强大robpike 老流氓
Deepmind,蜘蛛坦克,小笼包(zz)[bssd]Golang还不错
相关话题的讨论汇总
话题: br话题: oceanbase话题: 金服话题: 11话题: 蚂蚁
进入Programming版参与讨论
1 (共1页)
c*******a
发帖数: 1879
1
【 以下文字转载自 Military 讨论区 】
发信人: gc01 (gc01), 信区: Military
标 题: 蚂蚁金服自主研发数据库OceanBase每秒处理4200万次请求zt
发信站: BBS 未名空间站 (Sat Nov 10 20:20:24 2018, 美东)
26分03秒突破500亿 蚂蚁金服每秒处理4200万次请求
2018-11-11 01:04:00 来源: 21世纪经济报道(广州) 举报
1
易信
微信
QQ空间
微博
更多
(原标题:26分03秒突破500亿的背后 蚂蚁金服每秒处理4200万次请求)
今年的支付峰值,在刚开场5分钟22秒已诞生。
26分03秒,天猫双十一销售额突破500亿,同样的销售额,去年天猫花了近一倍的时间
。这就意味着后台数据库的处理能力也提升了超过一倍。
2017年11月12日0点,2017天猫双11全球狂欢节的成交额在数据大屏定格:1682亿元,
全球消费者通过支付宝完成的支付总笔数达到14.8亿笔,比去年增长41%。相当于在双
11这一天,平均每个中国人在支付宝上完成超过1笔支付。
去年刷新纪录的支付峰值,在刚开场5分钟22秒就已诞生。25.6万笔/秒,是去年的2.1
倍。同时诞生的还有数据库处理峰值:4200万次/秒。这个数字意味着,在支付峰值产
生的那一秒里,蚂蚁金服自主研发的数据库OceanBase平稳处理了4200万次请求数。
今年的双11不仅创下了很多支付纪录,网友却普遍反馈支付很顺畅,即便是在前10分钟
,也基本没有网络拥堵和卡壳现象。据悉,蚂蚁金服的智能客服、智能风控等技术在双
11这天发挥了重要作用。
另一方面,支付宝的指纹识别和刷脸支付也成为今年双11的主流。统计显示,输入6位
密码平均需要3秒,而指纹支付只需要1秒,极大地缩短了支付时间。在双11期间,能通
过风险感知模块检测黑产攻击,风控引擎自动更新风险模型,大幅提升风险拦截效率。
蚂蚁金服为双十一既带来了技术支持的同时,也带来了金融普惠。在双11媒体中心现场
,蚂蚁金服CEO井贤栋展示了一封来自沂蒙山区商家赵永的感谢信。网商银行风控技术
和大数据计算能力让赵永拥有了信用画像,一次次贷款支撑了他的创业。今年天猫双11
期间通过贷款备货,他一天就卖了70万枚鸭蛋。
数据显示,今年天猫双11前夕,超过160万淘宝和天猫商家从网商银行获得了超过1000
亿贷款,解决自己的备货资金。相比去年双11,贷款的商家数量上升20%,但贷款的额
度翻了一番。另据了解,在贷款和保险服务方面,网商银行及前身蚂蚁小贷已累计为超
过1100万家小微经营者,提供达2万亿的贷款支持,为460万农村小微经营者提供了4100
亿元的贷款支持。
“天猫双11是科技创新最好的阅兵场”,井贤栋表示,在这场全社会大协同中,线上和
线下,电商平台、新金融服务机构、商家、物流、消费者,整个生态链条都被强大的科
技创新力量所驱动所串联,成为供给侧改革的重要力量。
h**c
发帖数: 1979
2
啥原理?
s*i
发帖数: 5025
3
很惊人!跟铁路卖票比,这些数据耦合性不强那么horizontal scale起来容易的多?
e***a
发帖数: 1661
4
Why can Oracle and Sybase not create such a database?
s*********y
发帖数: 6151
5
这东西都是首先要有需求
就像mapreduce bigtable 不是搜索引擎其他公司蛋疼了去搞这玩意?
没有双11就不会有OceanBase 不奇怪

【在 e***a 的大作中提到】
: Why can Oracle and Sybase not create such a database?
d****r
发帖数: 300
6
正解。围绕自己的商业模式设计的,不是通用的。取舍角度都不一样。

【在 s*********y 的大作中提到】
: 这东西都是首先要有需求
: 就像mapreduce bigtable 不是搜索引擎其他公司蛋疼了去搞这玩意?
: 没有双11就不会有OceanBase 不奇怪

w***g
发帖数: 5958
7
眼看着马上sigmod vldb的best paper全都往中国去了。老美又要眼红了。

【在 s*********y 的大作中提到】
: 这东西都是首先要有需求
: 就像mapreduce bigtable 不是搜索引擎其他公司蛋疼了去搞这玩意?
: 没有双11就不会有OceanBase 不奇怪

h**********c
发帖数: 4120
8
我承认吃不着说酸,
传统企业一天提心吊胆税务局查帐,这种所谓每秒几千万次,税务局怎么查,第三方的
会计怎样审计。
就是质疑一下。
s*********y
发帖数: 6151
9
很多年前cs ee的paper看名字就很多中国人了, 现在逐渐掌握平台和话语权了


: 眼看着马上sigmod vldb的best paper全都往中国去了。老美又要眼红了。



【在 w***g 的大作中提到】
: 眼看着马上sigmod vldb的best paper全都往中国去了。老美又要眼红了。
c******n
发帖数: 16666
10
阿里这一系好东西不少 而且开源什么做的也都挺好
相关主题
阿里云计算有多强大问几个神经网络的问题
Deepmind,蜘蛛坦克,小笼包(zz)大部分人还认为阿法狗在背棋谱 (转载)
DNN就是hype (转载)关于搞ML刷数据的职业前途
进入Programming版参与讨论
g****t
发帖数: 31659
11
现在最牛X的是今日头条。第一个AI走向世界的公司可能就是它了。靠系统赚钱的很多。
真正用算法赚钱的其实没几家。也没几个人做到过。我微信贴了儿子头像,潜伏在国内
年轻人群里面很久了,学艺 LoL

【在 c******n 的大作中提到】
: 阿里这一系好东西不少 而且开源什么做的也都挺好
s*********y
发帖数: 6151
12
不了解今日头条 但难道不是抄google news?


: 现在最牛X的是今日头条。第一个AI走向世界的公司可能就是它了。靠系统赚钱
的很多。

: 真正用算法赚钱的其实没几家。也没几个人做到过。我微信贴了儿子头像,潜伏
在国内

: 年轻人群里面很久了,学艺 LoL



【在 g****t 的大作中提到】
: 现在最牛X的是今日头条。第一个AI走向世界的公司可能就是它了。靠系统赚钱的很多。
: 真正用算法赚钱的其实没几家。也没几个人做到过。我微信贴了儿子头像,潜伏在国内
: 年轻人群里面很久了,学艺 LoL

c******n
发帖数: 16666
13
我也没关注 是不是那个自动生成新闻那个?还是用户匹配好的那个?
求解惑

【在 s*********y 的大作中提到】
: 不了解今日头条 但难道不是抄google news?
:
:
: 现在最牛X的是今日头条。第一个AI走向世界的公司可能就是它了。靠系统赚钱
: 的很多。
:
: 真正用算法赚钱的其实没几家。也没几个人做到过。我微信贴了儿子头像,潜伏
: 在国内
:
: 年轻人群里面很久了,学艺 LoL
:

g****t
发帖数: 31659
14
浠婃棩澶存潯鍜屾姈闊虫槸涓釜鍏徃銆傜幇鍦ㄥ彨鍋氬瓧鑺傝烦鍔ㄣ
銆鍦chunjuan(馃憤鏄ュ嵎馃惐鏇村鏄ュ嵎馃憤) 鐨勫ぇ浣滀腑鎻愬埌: 銆br />
>: 鎴戜篃娌″叧娉鏄笉鏄偅涓嚜鍔ㄧ敓鎴愭柊闂婚偅涓紵杩樻槸鐢ㄦ埛鍖
归厤濂界殑閭d釜锛br />

: 姹傝В鎯br />

c******n
发帖数: 16666
15
哦~!

腑鎻愬埌: 銆�
鐢ㄦ埛鍖

【在 g****t 的大作中提到】
: 浠婃棩澶存潯鍜屾姈闊虫槸涓釜鍏徃銆傜幇鍦ㄥ彨鍋氬瓧鑺傝烦鍔ㄣ
: 銆鍦chunjuan(馃憤鏄ュ嵎馃惐鏇村鏄ュ嵎馃憤) 鐨勫ぇ浣滀腑鎻愬埌: 銆br />
: : >: 鎴戜篃娌″叧娉鏄笉鏄偅涓嚜鍔ㄧ敓鎴愭柊闂婚偅涓紵杩樻槸鐢ㄦ埛鍖
: 归厤濂界殑閭d釜锛br />
:
: 姹傝В鎯br />
:

c******n
发帖数: 16666
16
作者:正祥
链接:https://www.zhihu.com/question/19841579/answer/131853733
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。
即整个数据库以硬盘(通常是SSD)为载体,新近的增、删、改数据(“修改增量”)
在内存,而基线数据在保存在硬盘上,因此OceanBase可以看成一个准内存数据库。这
样的好处是:·写事务在内存(除事务日志必须落盘外),性能大大提升·没有随机写
硬盘,硬盘随机读不受干扰,高峰期系统性能提升明显;对于传统数据库,业务高峰期
通常也是大量随机写盘(刷脏页)的高峰期,大量随机写盘消耗了大量的IO,特别是考
虑到SSD的写入放大,对于读写性能都有较大的影响·基线数据只读,缓存(cache)简
单且效果提升·线上OceanBase的内存配置是支撑平常两天的修改增量(从OceanBase 1
.0开始,每台OceanBase都可以写入,都承载着部分的修改增量),因此即使突发大流
量为平日的10-20倍,也可支撑1~2个小时以上。
一个问题是:修改增量在内存,大概需要多大的内存?即使按双11全天的支付笔数10.5
亿笔,假设每笔1KB,总共需要的内存大约是1TB,平均到10台服务器,100GB/台。另一
个问题是:在类似双十一这种流量特别大的场景中,就像前面说到的,OceanBase内存
能够支持峰值业务写入1~2个小时以上,之后OceanBase必须把内存中的增删改数据(“
修改增量”)尽快整合到硬盘并释放内存,以便业务的持续写入。整合内存中的修改增
量到硬盘,OceanBase称为每日合并,必然涉及到大量的硬盘读写(IO),因此可能对
业务的吞吐量和事务响应时间(RT)产生影响。如何避免每日合并对业务的影响呢?
OceanBase通过“轮转合并”解决了这个问题。
===================================================================
确实如上面5 6楼2位说的
这玩意真是被需求逼出来的 一般公司日常流量估计也用不上这个
v***e
发帖数: 2108
17
一个in memory db/cache,靠堆内存来达到扩展性
42M是多机内存访问总和,这种东西和传统ACID
数据库完全不是一个东西,怎么能相提并论?
市面上这么多in-memory db,那个能claim自己超越了所
有Oracle DB/MySQL/MSSQL/DB2么?

【在 c******n 的大作中提到】
: 作者:正祥
: 链接:https://www.zhihu.com/question/19841579/answer/131853733
: 来源:知乎
: 著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。
: 即整个数据库以硬盘(通常是SSD)为载体,新近的增、删、改数据(“修改增量”)
: 在内存,而基线数据在保存在硬盘上,因此OceanBase可以看成一个准内存数据库。这
: 样的好处是:·写事务在内存(除事务日志必须落盘外),性能大大提升·没有随机写
: 硬盘,硬盘随机读不受干扰,高峰期系统性能提升明显;对于传统数据库,业务高峰期
: 通常也是大量随机写盘(刷脏页)的高峰期,大量随机写盘消耗了大量的IO,特别是考
: 虑到SSD的写入放大,对于读写性能都有较大的影响·基线数据只读,缓存(cache)简

l******n
发帖数: 9344
18
怪说不得内存涨价这么厉害 ...

【在 c******n 的大作中提到】
: 作者:正祥
: 链接:https://www.zhihu.com/question/19841579/answer/131853733
: 来源:知乎
: 著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。
: 即整个数据库以硬盘(通常是SSD)为载体,新近的增、删、改数据(“修改增量”)
: 在内存,而基线数据在保存在硬盘上,因此OceanBase可以看成一个准内存数据库。这
: 样的好处是:·写事务在内存(除事务日志必须落盘外),性能大大提升·没有随机写
: 硬盘,硬盘随机读不受干扰,高峰期系统性能提升明显;对于传统数据库,业务高峰期
: 通常也是大量随机写盘(刷脏页)的高峰期,大量随机写盘消耗了大量的IO,特别是考
: 虑到SSD的写入放大,对于读写性能都有较大的影响·基线数据只读,缓存(cache)简

s********k
发帖数: 6180
19
今日头条最牛逼的是找了一堆machine learning,deep learning的PHD用CNN算法给美
女抖音美颜然后用DNN算CTR怎么提高,很接地气很赚钱

多。

【在 g****t 的大作中提到】
: 现在最牛X的是今日头条。第一个AI走向世界的公司可能就是它了。靠系统赚钱的很多。
: 真正用算法赚钱的其实没几家。也没几个人做到过。我微信贴了儿子头像,潜伏在国内
: 年轻人群里面很久了,学艺 LoL

1 (共1页)
进入Programming版参与讨论
相关主题
各位自动驾驶技术发烧友们魏老师的方案
有这回事吗?魏老师拿不出10万次/秒写的数据库
[bssd] golang貌似要的人很多啊阿里云计算有多强大
昨天去参加某个big data的seminarDeepmind,蜘蛛坦克,小笼包(zz)
废话少说,单机500万次每秒DNN就是hype (转载)
真心请教,究竟怎么设计才能处理每秒100万次的写操作问几个神经网络的问题
FPGA-based DNNs大部分人还认为阿法狗在背棋谱 (转载)
大众理财时代,互联网平台和金融机构和气生财(转载)关于搞ML刷数据的职业前途
相关话题的讨论汇总
话题: br话题: oceanbase话题: 金服话题: 11话题: 蚂蚁