由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Programming版 - spark 到底牛在什么地方?
相关主题
Spark已经out了,能跳船的赶快Spark RDD
怎样schedule spark application请教一下,各位牛人觉得Rust语言怎么样?
spark RDD不能当K/V store是吧?Spark请教。
Spark PK Akka 完胜呀不好意思--去年或更早一些听一校友讲MXNET
spark看了一边 没什么难点啊。7天掌握一个Hadoop Cluster升级的问题
Spark 和 Dynamodb 之间 如何 连接any MPI/cluster high hand ?
关于spark的cache问题一直没想清楚请问这些和编程有啥关系?
IBM is all into Spark关于big data
相关话题的讨论汇总
话题: spark话题: rdd话题: memory话题: tolerance
进入Programming版参与讨论
1 (共1页)
B***n
发帖数: 84
1
难道是因为所有计算都是in memory的?看了databrick 的demo,每个cluster的内存都
是上千G的。
但内存大的话计算显然快呀,这idea不是很简单么?
新手,求科普,谢谢
n******t
发帖数: 4406
2
牛在it能骗钱。

【在 B***n 的大作中提到】
: 难道是因为所有计算都是in memory的?看了databrick 的demo,每个cluster的内存都
: 是上千G的。
: 但内存大的话计算显然快呀,这idea不是很简单么?
: 新手,求科普,谢谢

l*******m
发帖数: 1096
3
RDD is a critical and fundamental part of spark.

【在 B***n 的大作中提到】
: 难道是因为所有计算都是in memory的?看了databrick 的demo,每个cluster的内存都
: 是上千G的。
: 但内存大的话计算显然快呀,这idea不是很简单么?
: 新手,求科普,谢谢

s********k
发帖数: 6180
4
一直没搞懂这个RDD,到底牛在什么地方

【在 l*******m 的大作中提到】
: RDD is a critical and fundamental part of spark.
p*****2
发帖数: 21240
5
干就很牛轧

【在 s********k 的大作中提到】
: 一直没搞懂这个RDD,到底牛在什么地方
z******g
发帖数: 271
6
RDD can provide fault tolerance for in-memory intermediate result by only
storing very small amount of data on persistent storage. This is
particularly useful for iterative algorithms, since there is intermediate
result involved. Although in case there is not enough memory, Spark performs
exactly like Hadoop.

【在 s********k 的大作中提到】
: 一直没搞懂这个RDD,到底牛在什么地方
z******g
发帖数: 271
7
There is nothing new about in-memory. The key point is that RDD can achieve
fault tolerance for intermediate computation results without having to
writing the whole data back to disk.
1 (共1页)
进入Programming版参与讨论
相关主题
关于big dataspark看了一边 没什么难点啊。7天掌握
怎么自学cloud/big data programmingSpark 和 Dynamodb 之间 如何 连接
Hadoop cluster的问题关于spark的cache问题一直没想清楚
现在的云计算技术,比如hadoop,和数据挖掘data mining有联系吗?IBM is all into Spark
Spark已经out了,能跳船的赶快Spark RDD
怎样schedule spark application请教一下,各位牛人觉得Rust语言怎么样?
spark RDD不能当K/V store是吧?Spark请教。
Spark PK Akka 完胜呀不好意思--去年或更早一些听一校友讲MXNET
相关话题的讨论汇总
话题: spark话题: rdd话题: memory话题: tolerance