g**1 发帖数: 10330 | 1 26分03秒突破500亿 蚂蚁金服每秒处理4200万次请求
2018-11-11 01:04:00 来源: 21世纪经济报道(广州) 举报
1
易信
微信
QQ空间
微博
更多
(原标题:26分03秒突破500亿的背后 蚂蚁金服每秒处理4200万次请求)
今年的支付峰值,在刚开场5分钟22秒已诞生。
26分03秒,天猫双十一销售额突破500亿,同样的销售额,去年天猫花了近一倍的时间
。这就意味着后台数据库的处理能力也提升了超过一倍。
2017年11月12日0点,2017天猫双11全球狂欢节的成交额在数据大屏定格:1682亿元,
全球消费者通过支付宝完成的支付总笔数达到14.8亿笔,比去年增长41%。相当于在双
11这一天,平均每个中国人在支付宝上完成超过1笔支付。
去年刷新纪录的支付峰值,在刚开场5分钟22秒就已诞生。25.6万笔/秒,是去年的2.1
倍。同时诞生的还有数据库处理峰值:4200万次/秒。这个数字意味着,在支付峰值产
生的那一秒里,蚂蚁金服自主研发的数据库OceanBase平稳处理了4200万次请求数。
今年的双11不仅创下了很多支付纪录,网友却普遍反馈支付很顺畅,即便是在前10分钟
,也基本没有网络拥堵和卡壳现象。据悉,蚂蚁金服的智能客服、智能风控等技术在双
11这天发挥了重要作用。
另一方面,支付宝的指纹识别和刷脸支付也成为今年双11的主流。统计显示,输入6位
密码平均需要3秒,而指纹支付只需要1秒,极大地缩短了支付时间。在双11期间,能通
过风险感知模块检测黑产攻击,风控引擎自动更新风险模型,大幅提升风险拦截效率。
蚂蚁金服为双十一既带来了技术支持的同时,也带来了金融普惠。在双11媒体中心现场
,蚂蚁金服CEO井贤栋展示了一封来自沂蒙山区商家赵永的感谢信。网商银行风控技术
和大数据计算能力让赵永拥有了信用画像,一次次贷款支撑了他的创业。今年天猫双11
期间通过贷款备货,他一天就卖了70万枚鸭蛋。
数据显示,今年天猫双11前夕,超过160万淘宝和天猫商家从网商银行获得了超过1000
亿贷款,解决自己的备货资金。相比去年双11,贷款的商家数量上升20%,但贷款的额
度翻了一番。另据了解,在贷款和保险服务方面,网商银行及前身蚂蚁小贷已累计为超
过1100万家小微经营者,提供达2万亿的贷款支持,为460万农村小微经营者提供了4100
亿元的贷款支持。
“天猫双11是科技创新最好的阅兵场”,井贤栋表示,在这场全社会大协同中,线上和
线下,电商平台、新金融服务机构、商家、物流、消费者,整个生态链条都被强大的科
技创新力量所驱动所串联,成为供给侧改革的重要力量。 |
c*******a 发帖数: 1879 | 2 弯曲码工表示不服
【在 g**1 的大作中提到】 : 26分03秒突破500亿 蚂蚁金服每秒处理4200万次请求 : 2018-11-11 01:04:00 来源: 21世纪经济报道(广州) 举报 : 1 : 易信 : 微信 : QQ空间 : 微博 : 更多 : (原标题:26分03秒突破500亿的背后 蚂蚁金服每秒处理4200万次请求) : 今年的支付峰值,在刚开场5分钟22秒已诞生。
|
N*******e 发帖数: 580 | |
s****e 发帖数: 7018 | 4 这水平很高
叔出国肯定是走错路了
但是谁知道天朝突然崛起呢
这简直是几百年一遇的奇迹 |
c******t 发帖数: 944 | |
a********e 发帖数: 275 | 6 这个和股票交易的服务器比怎么样?
【在 g**1 的大作中提到】 : 26分03秒突破500亿 蚂蚁金服每秒处理4200万次请求 : 2018-11-11 01:04:00 来源: 21世纪经济报道(广州) 举报 : 1 : 易信 : 微信 : QQ空间 : 微博 : 更多 : (原标题:26分03秒突破500亿的背后 蚂蚁金服每秒处理4200万次请求) : 今年的支付峰值,在刚开场5分钟22秒已诞生。
|
l******t 发帖数: 55733 | 7 股票是撮合,机制不一样
【在 a********e 的大作中提到】 : 这个和股票交易的服务器比怎么样?
|
m*****n 发帖数: 3575 | 8 这个的确是世界领先水平
据说硬编了3年
之后才有马云搞的双11,就是炫技,就是要气死对手
但是马云这个人不地道
把研发元老给清退了
换一帮人掌权 |
c*******a 发帖数: 1879 | 9 动态调整, 就像马鬃的云EC2自动调整一样
【在 c******t 的大作中提到】 : 平时这些服务器闲置吗?
|
c****3 发帖数: 10787 | 10 这种算定制数据库吧,专为刷单设计的,只读不写,或者把写放到后台其他地方,性能
当然好了。
外面卖的都是通用数据库,适用各种用户的,不能一起比 |
|
|
d*******t 发帖数: 31 | 11 当初招了一帮水平不错的Geek高强度写了两年多 |
l****o 发帖数: 5435 | |
c*******a 发帖数: 1879 | 13 结果大部分写手都得过痨死了
【在 d*******t 的大作中提到】 : 当初招了一帮水平不错的Geek高强度写了两年多
|
F**Y 发帖数: 5826 | 14 行家
【在 l******t 的大作中提到】 : 股票是撮合,机制不一样
|
a********e 发帖数: 275 | 15 撮合更更难吧,要有优先排序。是M买对N卖。
阿里就是M买对1卖。
【在 F**Y 的大作中提到】 : 行家
|
S**********8 发帖数: 1 | 16 NM购物车其实在10号准备好了, 真正confirm才在11号, 其实只有一小半的数据发生处
理在11号, 这也算很牛? |
m*****n 发帖数: 3575 | 17 当然撮合更难了
这个卖价都是固定的,各单之间相互独立
纯粹就是拼量而已
【在 a********e 的大作中提到】 : 撮合更更难吧,要有优先排序。是M买对N卖。 : 阿里就是M买对1卖。
|
B*Q 发帖数: 25729 | |
S**********8 发帖数: 1 | 19 正解, 股票排序, 优先撮合, 报价, 止损各种处理都同时并发, 1111只是读写, 而且他
们还把读的部分放在了1110号, 完全没有复杂性.
【在 m*****n 的大作中提到】 : 当然撮合更难了 : 这个卖价都是固定的,各单之间相互独立 : 纯粹就是拼量而已
|
m*****n 发帖数: 3575 | 20 他那个纯粹是拼量
还是有意义的,毕竟现在网络攻击也是拼量
技术可以迁移至防火墙
【在 S**********8 的大作中提到】 : 正解, 股票排序, 优先撮合, 报价, 止损各种处理都同时并发, 1111只是读写, 而且他 : 们还把读的部分放在了1110号, 完全没有复杂性.
|
|
|
m*****n 发帖数: 3575 | 21 电商说穿了就这么点东西
马云把它做到极致一点不丢人
丢人的是后来人,还只会跟风搞电商,圈了一拨又一拨的钱,碰个头破血流 |
f***y 发帖数: 4447 | 22 你以为买股票像买充电宝?
量差别大了
【在 S**********8 的大作中提到】 : 正解, 股票排序, 优先撮合, 报价, 止损各种处理都同时并发, 1111只是读写, 而且他 : 们还把读的部分放在了1110号, 完全没有复杂性.
|
S**********8 发帖数: 1 | 23 扯弹, 股票一个报价系统就比1111复杂, 1111没有报价系统知道吗? 它价格是定好的,
没有变化的.
【在 f***y 的大作中提到】 : 你以为买股票像买充电宝? : 量差别大了
|
s*******d 发帖数: 3991 | 24 这个很难,amazon都没有搞定。prime day的时候当机了 |
s*****V 发帖数: 21731 | 25 感觉不是那么极端啊,4200万次,现代电脑单核频率都是2Ghz,别的大厂都应该能做,
只是现实中没有这样的极端场景
【在 g**1 的大作中提到】 : 26分03秒突破500亿 蚂蚁金服每秒处理4200万次请求 : 2018-11-11 01:04:00 来源: 21世纪经济报道(广州) 举报 : 1 : 易信 : 微信 : QQ空间 : 微博 : 更多 : (原标题:26分03秒突破500亿的背后 蚂蚁金服每秒处理4200万次请求) : 今年的支付峰值,在刚开场5分钟22秒已诞生。
|
s****r 发帖数: 68 | 26 你以为是数cycle呢。这是transaction吧。技术上当然是世界领先啊。我以前就说过,
中国的网络软件处理的QPS比很多美国应用大不少,有需求软件技术自然就上去了。
可怜几个对软硬件基本不懂的政屁在那里硬扭。
【在 s*****V 的大作中提到】 : 感觉不是那么极端啊,4200万次,现代电脑单核频率都是2Ghz,别的大厂都应该能做, : 只是现实中没有这样的极端场景
|
t******x 发帖数: 55 | 27 4200万次/秒是请求,就是和MITBBS刷网页一样的请求,也是在数据库,只读没啥稀奇
交易是20几万次秒 |
t******x 发帖数: 55 | 28 MITBBS找几个民工,把读数据库的帖子和写帖子分开,就能提高流量,现在好像也是分
开的,不过没钱,硬件还在用虚拟机 |
s*****V 发帖数: 21731 | 29 4200万次,你去请教编程班魏老师,说不定单机就行
【在 t******x 的大作中提到】 : 4200万次/秒是请求,就是和MITBBS刷网页一样的请求,也是在数据库,只读没啥稀奇 : 交易是20几万次秒
|
l******t 发帖数: 55733 | |
|
|
s****r 发帖数: 68 | 31 看来你真不懂啥叫database transaction。这些请求都是transaction里的步骤。
先看看这篇文章https://dbaplus.cn/news-160-2027-1.html,至少知道到底是什么。
就不闹什么单机的笑话了。话说您老讲讲单机怎么做?
【在 s*****V 的大作中提到】 : 4200万次,你去请教编程班魏老师,说不定单机就行
|
f***y 发帖数: 4447 | 32 妈逼,我玩fix的时候你还在穿开裆裤
,
【在 S**********8 的大作中提到】 : 扯弹, 股票一个报价系统就比1111复杂, 1111没有报价系统知道吗? 它价格是定好的, : 没有变化的.
|
t******x 发帖数: 55 | 33 单机肯定不行,只能做原型验证
但是淘宝卖东西的商家千千万,商家都是独立无关连的,所以很容易把请求分散到不同
机器,再加上大部分操作只是显示网页,不是下单,就是只读而已,很多东西就在内存
,所以4200万次也就是分布式刷网页
真的涉及到写磁盘,也就20几万次而已
【在 s*****V 的大作中提到】 : 4200万次,你去请教编程班魏老师,说不定单机就行
|
p***n 发帖数: 17190 | 34 自主研發後面是日本人的技術
【在 g**1 的大作中提到】 : 26分03秒突破500亿 蚂蚁金服每秒处理4200万次请求 : 2018-11-11 01:04:00 来源: 21世纪经济报道(广州) 举报 : 1 : 易信 : 微信 : QQ空间 : 微博 : 更多 : (原标题:26分03秒突破500亿的背后 蚂蚁金服每秒处理4200万次请求) : 今年的支付峰值,在刚开场5分钟22秒已诞生。
|
N*****r 发帖数: 94 | 35 还他妈的没有任何复杂性
。。。
自以为是的傻逼真多, 真以为写个pet shop store 就知道大并发怎么玩了啊 |
p********1 发帖数: 2785 | 36 可以跟火车购票系统比较一下。但某些人强以不知为知就不对了。 |
l******t 发帖数: 55733 | 37 这么没复杂性的玩意差几个数量级的亚麻就能让你看一天狗
【在 t******x 的大作中提到】 : 单机肯定不行,只能做原型验证 : 但是淘宝卖东西的商家千千万,商家都是独立无关连的,所以很容易把请求分散到不同 : 机器,再加上大部分操作只是显示网页,不是下单,就是只读而已,很多东西就在内存 : ,所以4200万次也就是分布式刷网页 : 真的涉及到写磁盘,也就20几万次而已
|
l******t 发帖数: 55733 | 38 剩余数量更新就是实时的
,
【在 S**********8 的大作中提到】 : 扯弹, 股票一个报价系统就比1111复杂, 1111没有报价系统知道吗? 它价格是定好的, : 没有变化的.
|
t******x 发帖数: 55 | 39 火车票订票比这个复杂。
火车票是联动的,因为中间有换乘站,还有枢纽车站,相互之间都是由关联性的
淘宝商家都是独立的,我卖的和你卖的没任何关联,如果愿意,每几万个商家搞一个数
据库都可以。除了搜索麻烦一点,前面根本看不出,就变成完全分布了。 |
c*******1 发帖数: 460 | 40 这么大的量, 请求分布到不同服务器上, 也不是件容易的事吧。 能做到极致也蛮牛
的吧
【在 t******x 的大作中提到】 : 单机肯定不行,只能做原型验证 : 但是淘宝卖东西的商家千千万,商家都是独立无关连的,所以很容易把请求分散到不同 : 机器,再加上大部分操作只是显示网页,不是下单,就是只读而已,很多东西就在内存 : ,所以4200万次也就是分布式刷网页 : 真的涉及到写磁盘,也就20几万次而已
|
|
|
S**********8 发帖数: 1 | 41 有人提到股票系统, 有人提到火车飞机定票系统, 也就是说并没有什么新技术, 没什么
可吹的, 而且更加复杂的技术早就在那里, 1111只是量大, 还分流了, 鸭妈没搞分流,
不小心down机了. |
a********c 发帖数: 3657 | 42 看来菌斑都是民科。。。这就是阿里的big table实现,10年从狗狗弄了几个马龙搞得
,百度也有。 |
g******t 发帖数: 11249 | 43 分partition不就完了?
【在 a********c 的大作中提到】 : 看来菌斑都是民科。。。这就是阿里的big table实现,10年从狗狗弄了几个马龙搞得 : ,百度也有。
|
a********c 发帖数: 3657 | 44 就是partition。。。搞这个人在国内开了培训班,天天挂嘴上说,其实真正的发明者
是狗狗的一个牛三哥
:分partition不就完了?
: |
t******x 发帖数: 55 | 45 这和数据库是什么无关。
有些东西很容易想的,成天想着婆婆妈妈的技术细节,就不知道其实大方向非常容易看的
数据库交易要写磁盘的,为了可靠性,不能丢,磁盘写入IO速度多少,所以瓶颈很容易
找到,数据库交易数量不行,就因为这个,闭着眼睛也能猜到
所以设计根本不要用普通数据库,因为那些都是为了读写在一起设计的。
把读写分开就行了,读可以都放在内存,速度立刻就上去了。只要做好数据同步就行了。 |
s***h 发帖数: 487 | 46 Postgres 和 MySQL 还有 MongoDB 都是 open source 的。你自己写一个能写得更好?
: 这和数据库是什么无关。
: 有些东西很容易想的,成天想着婆婆妈妈的技术细节,就不知道其实大方向非常
容易看的
: 数据库交易要写磁盘的,为了可靠性,不能丢,磁盘写入IO速度多少,所以瓶颈
很容易
: 找到,数据库交易数量不行,就因为这个,闭着眼睛也能猜到
: 所以设计根本不要用普通数据库,因为那些都是为了读写在一起设计的。
: 把读写分开就行了,读可以都放在内存,速度立刻就上去了。只要做好数据同步
就行了。
【在 t******x 的大作中提到】 : 这和数据库是什么无关。 : 有些东西很容易想的,成天想着婆婆妈妈的技术细节,就不知道其实大方向非常容易看的 : 数据库交易要写磁盘的,为了可靠性,不能丢,磁盘写入IO速度多少,所以瓶颈很容易 : 找到,数据库交易数量不行,就因为这个,闭着眼睛也能猜到 : 所以设计根本不要用普通数据库,因为那些都是为了读写在一起设计的。 : 把读写分开就行了,读可以都放在内存,速度立刻就上去了。只要做好数据同步就行了。
|
l******t 发帖数: 55733 | 47 蠢逼民科
【在 s***h 的大作中提到】 : Postgres 和 MySQL 还有 MongoDB 都是 open source 的。你自己写一个能写得更好? : : : 这和数据库是什么无关。 : : 有些东西很容易想的,成天想着婆婆妈妈的技术细节,就不知道其实大方向非常 : 容易看的 : : 数据库交易要写磁盘的,为了可靠性,不能丢,磁盘写入IO速度多少,所以瓶颈 : 很容易 : : 找到,数据库交易数量不行,就因为这个,闭着眼睛也能猜到 : : 所以设计根本不要用普通数据库,因为那些都是为了读写在一起设计的。 : : 把读写分开就行了,读可以都放在内存,速度立刻就上去了。只要做好数据同步
|
l******t 发帖数: 55733 | 48 地球上已经没有更加复杂的系统了,谢谢
,
【在 S**********8 的大作中提到】 : 有人提到股票系统, 有人提到火车飞机定票系统, 也就是说并没有什么新技术, 没什么 : 可吹的, 而且更加复杂的技术早就在那里, 1111只是量大, 还分流了, 鸭妈没搞分流, : 不小心down机了.
|
r******n 发帖数: 4522 | 49 有这个需求,才值得投钱搞,但不是啥高难度,属于投入必有产出的,高铁也是。 |
g******t 发帖数: 11249 | 50 要是对速度要求这么高的话
干脆别用database了,直接access file更快
淘宝交易也相对独立吧
看的
了。
【在 t******x 的大作中提到】 : 这和数据库是什么无关。 : 有些东西很容易想的,成天想着婆婆妈妈的技术细节,就不知道其实大方向非常容易看的 : 数据库交易要写磁盘的,为了可靠性,不能丢,磁盘写入IO速度多少,所以瓶颈很容易 : 找到,数据库交易数量不行,就因为这个,闭着眼睛也能猜到 : 所以设计根本不要用普通数据库,因为那些都是为了读写在一起设计的。 : 把读写分开就行了,读可以都放在内存,速度立刻就上去了。只要做好数据同步就行了。
|
|
|
t******x 发帖数: 55 | 51 尼玛这用得着从头全部重写吗?
怎么设计我都说了,我根本不是做数据库的,都能看出来应该怎么做,思路多容易,我
已经说了,读写分开。
所以主要工作就是做好数据同步就行了,因为写入以后数据变化,和读的一侧保持同步
就可以了。
同步实时性要求没那么高,慢个几秒,刷网页的时候有几秒看着不一致,没啥关系,人
有不是机器,谁会揪着不放,过几秒就好了
【在 s***h 的大作中提到】 : Postgres 和 MySQL 还有 MongoDB 都是 open source 的。你自己写一个能写得更好? : : : 这和数据库是什么无关。 : : 有些东西很容易想的,成天想着婆婆妈妈的技术细节,就不知道其实大方向非常 : 容易看的 : : 数据库交易要写磁盘的,为了可靠性,不能丢,磁盘写入IO速度多少,所以瓶颈 : 很容易 : : 找到,数据库交易数量不行,就因为这个,闭着眼睛也能猜到 : : 所以设计根本不要用普通数据库,因为那些都是为了读写在一起设计的。 : : 把读写分开就行了,读可以都放在内存,速度立刻就上去了。只要做好数据同步
|
g******t 发帖数: 11249 | 52 贵啊
米帝请一个架构师怎么也得15万
程序员8万
一个团队一年没百多万下不来
【在 r******n 的大作中提到】 : 有这个需求,才值得投钱搞,但不是啥高难度,属于投入必有产出的,高铁也是。
|
s***h 发帖数: 487 | 53 哪那么容易自己写一个。如果美帝把 open source database 一掐,鳖的 database 基
本就不会再升级了。
: 要是对速度要求这么高的话
: 干脆别用database了,直接access file更快
: 淘宝交易也相对独立吧
: 看的
: 了。
【在 g******t 的大作中提到】 : 贵啊 : 米帝请一个架构师怎么也得15万 : 程序员8万 : 一个团队一年没百多万下不来
|
s****r 发帖数: 68 | 54 复杂性在于super high qps,人可接受的response time,和transaction。当然如果不
进入购物车,显示的一个商家的信息可能略微stale。
就不要纠结磁盘了。你去看看提供人可接受的响应时间的系统,serving side critial
path的数据有几家还用磁盘的。最多SSD。去看看google,fb,amazon。现在所谓的
database已经不是传统的database了。
QPS and response time就是复杂性,reliable(不crash)就是做得不错。
看的
了。
【在 t******x 的大作中提到】 : 这和数据库是什么无关。 : 有些东西很容易想的,成天想着婆婆妈妈的技术细节,就不知道其实大方向非常容易看的 : 数据库交易要写磁盘的,为了可靠性,不能丢,磁盘写入IO速度多少,所以瓶颈很容易 : 找到,数据库交易数量不行,就因为这个,闭着眼睛也能猜到 : 所以设计根本不要用普通数据库,因为那些都是为了读写在一起设计的。 : 把读写分开就行了,读可以都放在内存,速度立刻就上去了。只要做好数据同步就行了。
|
g******t 发帖数: 11249 | 55 要是政府的话
花钱找个教授,叫兽找个研究生
改吧改吧就是国产自主创新数据库
搞不好还能评个国家科技进步奖
【在 s***h 的大作中提到】 : 哪那么容易自己写一个。如果美帝把 open source database 一掐,鳖的 database 基 : 本就不会再升级了。 : : : 要是对速度要求这么高的话 : : 干脆别用database了,直接access file更快 : : 淘宝交易也相对独立吧 : : 看的 : : 了。 :
|
g******t 发帖数: 11249 | 56 可以加一层transaction server
critial
【在 s****r 的大作中提到】 : 复杂性在于super high qps,人可接受的response time,和transaction。当然如果不 : 进入购物车,显示的一个商家的信息可能略微stale。 : 就不要纠结磁盘了。你去看看提供人可接受的响应时间的系统,serving side critial : path的数据有几家还用磁盘的。最多SSD。去看看google,fb,amazon。现在所谓的 : database已经不是传统的database了。 : QPS and response time就是复杂性,reliable(不crash)就是做得不错。 : : 看的 : 了。
|
s***h 发帖数: 487 | 57 哥们你不做数据库为啥这么热衷嘛?
: 尼玛这用得着从头全部重写吗?
: 怎么设计我都说了,我根本不是做数据库的,都能看出来应该怎么做,思路多容
易,我
: 已经说了,读写分开。
: 所以主要工作就是做好数据同步就行了,因为写入以后数据变化,和读的一侧保
持同步
: 就可以了。
: 同步实时性要求没那么高,慢个几秒,刷网页的时候有几秒看着不一致,没啥关
系,人
: 有不是机器,谁会揪着不放,过几秒就好了
【在 t******x 的大作中提到】 : 尼玛这用得着从头全部重写吗? : 怎么设计我都说了,我根本不是做数据库的,都能看出来应该怎么做,思路多容易,我 : 已经说了,读写分开。 : 所以主要工作就是做好数据同步就行了,因为写入以后数据变化,和读的一侧保持同步 : 就可以了。 : 同步实时性要求没那么高,慢个几秒,刷网页的时候有几秒看着不一致,没啥关系,人 : 有不是机器,谁会揪着不放,过几秒就好了
|
t******x 发帖数: 55 | 58 用户还要搜索商家,所以用文件麻烦,虽然不是不行
这个设计其实也有trick,很容易看到的,搜索看着几十页,其实显示给你的只有1页,
后面是什么也没人知道,其实也是天然分布式
【在 g******t 的大作中提到】 : 要是对速度要求这么高的话 : 干脆别用database了,直接access file更快 : 淘宝交易也相对独立吧 : : 看的 : 了。
|
l******t 发帖数: 55733 | 59 笑劈了。你属于菌版病情比较严重的,整体特征是话痨,不知所云
【在 s***h 的大作中提到】 : 哥们你不做数据库为啥这么热衷嘛? : : : 尼玛这用得着从头全部重写吗? : : 怎么设计我都说了,我根本不是做数据库的,都能看出来应该怎么做,思路多容 : 易,我 : : 已经说了,读写分开。 : : 所以主要工作就是做好数据同步就行了,因为写入以后数据变化,和读的一侧保 : 持同步 : : 就可以了。 : : 同步实时性要求没那么高,慢个几秒,刷网页的时候有几秒看着不一致,没啥关
|
g******t 发帖数: 11249 | 60 擦
tb那排名不是竞价买的么
。。。。
【在 t******x 的大作中提到】 : 用户还要搜索商家,所以用文件麻烦,虽然不是不行 : 这个设计其实也有trick,很容易看到的,搜索看着几十页,其实显示给你的只有1页, : 后面是什么也没人知道,其实也是天然分布式
|
|
|
t******x 发帖数: 55 | 61 我只是证明设计思路很容易,工程的东西,其实都很容易的
【在 s***h 的大作中提到】 : 哥们你不做数据库为啥这么热衷嘛? : : : 尼玛这用得着从头全部重写吗? : : 怎么设计我都说了,我根本不是做数据库的,都能看出来应该怎么做,思路多容 : 易,我 : : 已经说了,读写分开。 : : 所以主要工作就是做好数据同步就行了,因为写入以后数据变化,和读的一侧保 : 持同步 : : 就可以了。 : : 同步实时性要求没那么高,慢个几秒,刷网页的时候有几秒看着不一致,没啥关
|
l******t 发帖数: 55733 | 62 你得先证明你能实现transaction。google的搜索比起来是狗屁。和那个时瘫一样逗逼
【在 t******x 的大作中提到】 : 我只是证明设计思路很容易,工程的东西,其实都很容易的
|
g******t 发帖数: 11249 | 63 但是银行是找IBM花了大钱设计出来的
咨询费每年砸几亿吧
taobao用开源自己改,对工程师要求很高
至少是google/facebook水平的
【在 t******x 的大作中提到】 : 我只是证明设计思路很容易,工程的东西,其实都很容易的
|
s***h 发帖数: 487 | 64 其实不如直接用 open source,加雇海量便宜五毛人肉电池。
哥们太理想主义的,在国内可能会被迷奸得找不着北。
: 要是政府的话
: 花钱找个教授,叫兽找个研究生
: 改吧改吧就是国产自主创新数据库
: 搞不好还能评个国家科技进步奖
【在 g******t 的大作中提到】 : 但是银行是找IBM花了大钱设计出来的 : 咨询费每年砸几亿吧 : taobao用开源自己改,对工程师要求很高 : 至少是google/facebook水平的
|
t******x 发帖数: 55 | 65 大公司愿意卖高价,是他们的本事,高价不见得复杂。
顺着这个思路,终归做的好,有什么理由做不好呢?思路错了肯定完蛋了。
【在 g******t 的大作中提到】 : 但是银行是找IBM花了大钱设计出来的 : 咨询费每年砸几亿吧 : taobao用开源自己改,对工程师要求很高 : 至少是google/facebook水平的
|
g******t 发帖数: 11249 | 66 LOGO还是要改的
不然专家评审太尴尬
【在 s***h 的大作中提到】 : 其实不如直接用 open source,加雇海量便宜五毛人肉电池。 : 哥们太理想主义的,在国内可能会被迷奸得找不着北。 : : : 要是政府的话 : : 花钱找个教授,叫兽找个研究生 : : 改吧改吧就是国产自主创新数据库 : : 搞不好还能评个国家科技进步奖 :
|
g******t 发帖数: 11249 | 67 IBM主机是软硬件一体化的解决方案
硬软件/网络甚至电源空调系统都为大规模交易优化过
【在 t******x 的大作中提到】 : 大公司愿意卖高价,是他们的本事,高价不见得复杂。 : 顺着这个思路,终归做的好,有什么理由做不好呢?思路错了肯定完蛋了。
|
s****r 发帖数: 68 | 68 是不是知道MySQL就感觉牛大了?这是幻觉:-)
你从哪里听说YouTube用mysql?Google还在用MySQL吗?人自家的big table,spanner
都出来多久了https://ai.google/research/pubs/pub39966, https://en.wikipedia.
org/wiki/Spanner_(database))。
【在 s***h 的大作中提到】 : 其实不如直接用 open source,加雇海量便宜五毛人肉电池。 : 哥们太理想主义的,在国内可能会被迷奸得找不着北。 : : : 要是政府的话 : : 花钱找个教授,叫兽找个研究生 : : 改吧改吧就是国产自主创新数据库 : : 搞不好还能评个国家科技进步奖 :
|
s***h 发帖数: 487 | 69 Google 用 big table,Facebook 用 Apache Cassandra。当然都是听说。
但那些是 NoSQL,不是 ACID compliant,不适合火车订票系统我想。
: 是不是知道MySQL就感觉牛大了?这是幻觉:-)
: 你从哪里听说YouTube用mysql?Google还在用MySQL吗?人自家的big table,
spanner
: 都出来多久了https://ai.google/research/pubs/pub39966, https://en.
wikipedia.
: org/wiki/Spanner_(database))。
【在 s****r 的大作中提到】 : 是不是知道MySQL就感觉牛大了?这是幻觉:-) : 你从哪里听说YouTube用mysql?Google还在用MySQL吗?人自家的big table,spanner : 都出来多久了https://ai.google/research/pubs/pub39966, https://en.wikipedia. : org/wiki/Spanner_(database))。
|
t******x 发帖数: 55 | 70 他这么说肯定是骗用户的。
大规模交易瓶颈就是磁盘写入速度,其他都不是瓶颈。他能找到IOP很高的磁盘,算是
优化,其他都是骗用户,卖更高价钱的
【在 g******t 的大作中提到】 : IBM主机是软硬件一体化的解决方案 : 硬软件/网络甚至电源空调系统都为大规模交易优化过
|
|
|
s****r 发帖数: 68 | 71 不同业务有不同需求:search的transaction语意不强,可以不要ACID的transaction。
但广告,怎么也得是ACID吧。
【在 s***h 的大作中提到】 : Google 用 big table,Facebook 用 Apache Cassandra。当然都是听说。 : 但那些是 NoSQL,不是 ACID compliant,不适合火车订票系统我想。 : : : 是不是知道MySQL就感觉牛大了?这是幻觉:-) : : 你从哪里听说YouTube用mysql?Google还在用MySQL吗?人自家的big table, : spanner : : 都出来多久了https://ai.google/research/pubs/pub39966, https://en. : wikipedia. : : org/wiki/Spanner_(database))。 :
|
g******a 发帖数: 778 | 72 这太吓人了?有没有确切的出处?
:结果大部分写手都得过痨死了
: |
s*****r 发帖数: 43070 | 73 交易肯定是有写的,只读不需要接触数据库,用cache就能解决好
实时更改的transaction应该就是用户的balance和order的status,其他工作都可以在
线下批处理完成,比如shipping
用户的数据库都是partition,极端就是每个用户的数据是一个partition,简单的增加
机器就能处理高峰
【在 t******x 的大作中提到】 : 4200万次/秒是请求,就是和MITBBS刷网页一样的请求,也是在数据库,只读没啥稀奇 : 交易是20几万次秒
|
s*****r 发帖数: 43070 | 74 big table不支持transaction,应该是类似spanner的数据库
【在 a********c 的大作中提到】 : 看来菌斑都是民科。。。这就是阿里的big table实现,10年从狗狗弄了几个马龙搞得 : ,百度也有。
|
t******x 发帖数: 55 | 75 SSD不是磁盘,你有什么更先进的硬件?
【在 s****r 的大作中提到】 : 不同业务有不同需求:search的transaction语意不强,可以不要ACID的transaction。 : 但广告,怎么也得是ACID吧。
|
g******t 发帖数: 11249 | 76 数据库的lock机制
【在 t******x 的大作中提到】 : 他这么说肯定是骗用户的。 : 大规模交易瓶颈就是磁盘写入速度,其他都不是瓶颈。他能找到IOP很高的磁盘,算是 : 优化,其他都是骗用户,卖更高价钱的
|
t******x 发帖数: 55 | 77 你是说到点子了,一个用户是一个partition,性能最好,无人可比
但是其他人没法这么做,因为用户之间可能有关联,比如火车订票。
但是淘宝商家之间没关联,所以它愿意创造世界纪录,是很容易的
【在 s*****r 的大作中提到】 : 交易肯定是有写的,只读不需要接触数据库,用cache就能解决好 : 实时更改的transaction应该就是用户的balance和order的status,其他工作都可以在 : 线下批处理完成,比如shipping : 用户的数据库都是partition,极端就是每个用户的数据是一个partition,简单的增加 : 机器就能处理高峰
|
s*****r 发帖数: 43070 | 78 火车票对超售是零容忍,还有座位分配的要求,高并发下难度比淘宝天猫高多了
【在 p********1 的大作中提到】 : 可以跟火车购票系统比较一下。但某些人强以不知为知就不对了。
|
s*****r 发帖数: 43070 | 79 火车票的数据模型比零售业难太多了,内部逻辑非常复杂
天猫无非就是用户数据做最极端的partition,就是所有相关数据都放在一起,降低
transaction的复杂度和执行时间,剩下就是堆机器
【在 t******x 的大作中提到】 : 你是说到点子了,一个用户是一个partition,性能最好,无人可比 : 但是其他人没法这么做,因为用户之间可能有关联,比如火车订票。 : 但是淘宝商家之间没关联,所以它愿意创造世界纪录,是很容易的
|
s***h 发帖数: 487 | 80 Google 用 Big Table 本身,并不能说明 Big Table 一定比 Apache Cassandra 或
Postgres 技术上更合适。
Google 的架构最海量没错。但 Google 也受制于自己的 20 年 legacy system,新架
构要兼容过去,也是个负担。
: 是不是知道MySQL就感觉牛大了?这是幻觉:-)
: 你从哪里听说YouTube用mysql?Google还在用MySQL吗?人自家的big table,
spanner
: 都出来多久了https://ai.google/research/pubs/pub39966, https://en.
wikipedia.
: org/wiki/Spanner_(database))。
【在 s****r 的大作中提到】 : 不同业务有不同需求:search的transaction语意不强,可以不要ACID的transaction。 : 但广告,怎么也得是ACID吧。
|
|
|
s***h 发帖数: 487 | 81 可以在 big table 上面做一层 transaction。但缺点就是费程序猿人工,不是标准化
将来也不容易重用。
当然国内人肉电池价格便宜量又足是优势。许多国内能做的,美帝不一定能做。
: big table不支持transaction,应该是类似spanner的数据库
【在 s*****r 的大作中提到】 : 火车票的数据模型比零售业难太多了,内部逻辑非常复杂 : 天猫无非就是用户数据做最极端的partition,就是所有相关数据都放在一起,降低 : transaction的复杂度和执行时间,剩下就是堆机器
|
s*****r 发帖数: 43070 | 82 big table的优势是非transaction的海量读写,海量transaction就是spanner,狗家发
明的技术,没毛病
【在 s***h 的大作中提到】 : 可以在 big table 上面做一层 transaction。但缺点就是费程序猿人工,不是标准化 : 将来也不容易重用。 : 当然国内人肉电池价格便宜量又足是优势。许多国内能做的,美帝不一定能做。 : : : big table不支持transaction,应该是类似spanner的数据库 :
|
s***h 发帖数: 487 | 83 Google 确实搞了很多新玩意儿自己不用。比如 Google 自己不用 Git 。
Spanner 看起来是 Google Cloud 上面用,不知道 Google 自己用不用。
: big table的优势是非transaction的海量读写,海量transaction就是spanner,
狗家发
: 明的技术,没毛病
【在 s*****r 的大作中提到】 : big table的优势是非transaction的海量读写,海量transaction就是spanner,狗家发 : 明的技术,没毛病
|
l******t 发帖数: 55733 | 84 阿里显然运行这压力最大的实交系统,和spanner有啥关系?
【在 s*****r 的大作中提到】 : big table的优势是非transaction的海量读写,海量transaction就是spanner,狗家发 : 明的技术,没毛病
|
s*****r 发帖数: 43070 | 85 你个外行就别BB了
【在 l******t 的大作中提到】 : 阿里显然运行这压力最大的实交系统,和spanner有啥关系?
|
l******t 发帖数: 55733 | 86 你内行你说说
【在 s*****r 的大作中提到】 : 你个外行就别BB了
|
c****x 发帖数: 6601 | 87 他们不用git,用什么revision control
【在 s***h 的大作中提到】 : Google 确实搞了很多新玩意儿自己不用。比如 Google 自己不用 Git 。 : Spanner 看起来是 Google Cloud 上面用,不知道 Google 自己用不用。 : : : big table的优势是非transaction的海量读写,海量transaction就是spanner, : 狗家发 : : 明的技术,没毛病 :
|