t*****z 发帖数: 1598 | 1 用固态硬盘阵列代替物理内存的可行性
我现在的工作内容中,有一个关键环节(基因组拼接)是需要超大内存的,至少256GB
起,多多益善,而内存交换速率并不很看中。这种规模的物理内存是十分昂贵的。我想
,可不可以用数个PCIe接口的SSD组成RAID0,然后把它们用作swap/ramdisk/virtual
ram什么的。如果可以的话,它们的速度和物理内存相比如何?设置的时候有什么需要
注意的吗?
只是理论探讨。不要问我为什么不让单位买2TB物理内存之类的。 |
t******o 发帖数: 1470 | 2 你想想为啥有ramdisk这个东西,或者你做计算为啥要避开swap memory.
1. ssd大概是ram速度的1%,access time, ssd是几十ms, ram是几个ns, 这个靠
raid0上来,成本,可靠性都成啥了
2. 现在的cpu体系,你可以从ram pre-load到cpu, 不能i/o pre-load啊,大改系统?
256GB
【在 t*****z 的大作中提到】 : 用固态硬盘阵列代替物理内存的可行性 : 我现在的工作内容中,有一个关键环节(基因组拼接)是需要超大内存的,至少256GB : 起,多多益善,而内存交换速率并不很看中。这种规模的物理内存是十分昂贵的。我想 : ,可不可以用数个PCIe接口的SSD组成RAID0,然后把它们用作swap/ramdisk/virtual : ram什么的。如果可以的话,它们的速度和物理内存相比如何?设置的时候有什么需要 : 注意的吗? : 只是理论探讨。不要问我为什么不让单位买2TB物理内存之类的。
|
l*******1 发帖数: 866 | 3 按写内存的频率写,就算有trim,SSD也很快就得完蛋了吧?
256GB
【在 t*****z 的大作中提到】 : 用固态硬盘阵列代替物理内存的可行性 : 我现在的工作内容中,有一个关键环节(基因组拼接)是需要超大内存的,至少256GB : 起,多多益善,而内存交换速率并不很看中。这种规模的物理内存是十分昂贵的。我想 : ,可不可以用数个PCIe接口的SSD组成RAID0,然后把它们用作swap/ramdisk/virtual : ram什么的。如果可以的话,它们的速度和物理内存相比如何?设置的时候有什么需要 : 注意的吗? : 只是理论探讨。不要问我为什么不让单位买2TB物理内存之类的。
|
a*o 发帖数: 19981 | 4 显然你程序架构有严重问题,如果size matters,speed does not,那你显然根本就不
应该有一大堆数据在memory里,弄个数据库做bankend才靠谱。
256GB
【在 t*****z 的大作中提到】 : 用固态硬盘阵列代替物理内存的可行性 : 我现在的工作内容中,有一个关键环节(基因组拼接)是需要超大内存的,至少256GB : 起,多多益善,而内存交换速率并不很看中。这种规模的物理内存是十分昂贵的。我想 : ,可不可以用数个PCIe接口的SSD组成RAID0,然后把它们用作swap/ramdisk/virtual : ram什么的。如果可以的话,它们的速度和物理内存相比如何?设置的时候有什么需要 : 注意的吗? : 只是理论探讨。不要问我为什么不让单位买2TB物理内存之类的。
|
n******7 发帖数: 12463 | 5 你用什么assembler?
还是改进算法更实际
搜搜memory efficient genome assembly很多结果
不过我都没用过 |
g*******t 发帖数: 7704 | 6 想法有问题, 内存不是用来存储数据的,
内存一般是放代码,放临时数据,堆栈, |
h*******u 发帖数: 15326 | 7 可以
现在有公司在做
很贵
256GB
【在 t*****z 的大作中提到】 : 用固态硬盘阵列代替物理内存的可行性 : 我现在的工作内容中,有一个关键环节(基因组拼接)是需要超大内存的,至少256GB : 起,多多益善,而内存交换速率并不很看中。这种规模的物理内存是十分昂贵的。我想 : ,可不可以用数个PCIe接口的SSD组成RAID0,然后把它们用作swap/ramdisk/virtual : ram什么的。如果可以的话,它们的速度和物理内存相比如何?设置的时候有什么需要 : 注意的吗? : 只是理论探讨。不要问我为什么不让单位买2TB物理内存之类的。
|
t*****z 发帖数: 1598 | 8 谢谢!你说的对我很有帮助。
【在 t******o 的大作中提到】 : 你想想为啥有ramdisk这个东西,或者你做计算为啥要避开swap memory. : 1. ssd大概是ram速度的1%,access time, ssd是几十ms, ram是几个ns, 这个靠 : raid0上来,成本,可靠性都成啥了 : 2. 现在的cpu体系,你可以从ram pre-load到cpu, 不能i/o pre-load啊,大改系统? : : 256GB
|
t*****z 发帖数: 1598 | 9 速度也是需要的,只是不是最关键的因素,但也不能降低到磁盘的水平。
【在 a*o 的大作中提到】 : 显然你程序架构有严重问题,如果size matters,speed does not,那你显然根本就不 : 应该有一大堆数据在memory里,弄个数据库做bankend才靠谱。 : : 256GB
|
t*****z 发帖数: 1598 | 10 我大概都看过一遍。我们所买的CLC就是很节省内存,速度还很快,在笔记本上都能拼
接人类基因组。但是,大家总觉得不靠谱。为了结果尽可能精确,我们还是倾向于用学
术界的assembler。我用的是IDBA-UD和SPAdes。
原则上,耗费内存的量跟de Brujin graph的复杂度有关,这一道坎过不去,不管什么
算法。
算法上是有人在改进。最近的几个程序都用了Bloom filter来节省内存,内存下去了,
结果精确度不一定上来。我也需要调查下。
【在 n******7 的大作中提到】 : 你用什么assembler? : 还是改进算法更实际 : 搜搜memory efficient genome assembly很多结果 : 不过我都没用过
|
|
|
a*f 发帖数: 1790 | 11 基因组拼接搜寻空间太大了,不能从算法上解决吗?比如搞成类似MapR的结构速度成本
都能优化
256GB
【在 t*****z 的大作中提到】 : 用固态硬盘阵列代替物理内存的可行性 : 我现在的工作内容中,有一个关键环节(基因组拼接)是需要超大内存的,至少256GB : 起,多多益善,而内存交换速率并不很看中。这种规模的物理内存是十分昂贵的。我想 : ,可不可以用数个PCIe接口的SSD组成RAID0,然后把它们用作swap/ramdisk/virtual : ram什么的。如果可以的话,它们的速度和物理内存相比如何?设置的时候有什么需要 : 注意的吗? : 只是理论探讨。不要问我为什么不让单位买2TB物理内存之类的。
|
a*o 发帖数: 19981 | 12 我也觉得还是算法的问题,不可能一定要搁内存里才能解决。
要按这个说法google的搜索服务器还不得弄个几光年的内存啊。
【在 a*f 的大作中提到】 : 基因组拼接搜寻空间太大了,不能从算法上解决吗?比如搞成类似MapR的结构速度成本 : 都能优化 : : 256GB
|
t*****z 发帖数: 1598 | 13 你是说UlltraDIMM吗?
【在 h*******u 的大作中提到】 : 可以 : 现在有公司在做 : 很贵 : : 256GB
|
t*****z 发帖数: 1598 | 14 你说得有道理。算法一直跟不上去。好在即使最传统的基因组拼接算法,内存需求量只
跟基因组复杂度有关,而跟数据量无关。所以即使以后数据越来越多了,内存这个问题
也不会更加严重。
Anyway, good data beat good algorithm. 只要有大数据,什么算法都不重要。
【在 a*o 的大作中提到】 : 我也觉得还是算法的问题,不可能一定要搁内存里才能解决。 : 要按这个说法google的搜索服务器还不得弄个几光年的内存啊。
|
h*******u 发帖数: 15326 | 15 类似的
还有更猛的,容量几百T
【在 t*****z 的大作中提到】 : 你是说UlltraDIMM吗?
|
j******o 发帖数: 4219 | 16 你的方向不太对,从来只有内存替代磁盘的,从来没有反过来的。从架构上,你可以直
接访问内存,但是没办法直接访问磁盘。弄到最后你的成本可能比直接上大内存更高。 |
a9 发帖数: 21638 | 17 一直就有,windows叫虚拟内存,linux叫swap。哈 哈
【在 j******o 的大作中提到】 : 你的方向不太对,从来只有内存替代磁盘的,从来没有反过来的。从架构上,你可以直 : 接访问内存,但是没办法直接访问磁盘。弄到最后你的成本可能比直接上大内存更高。
|
L***s 发帖数: 1148 | 18 你们这个什么de Brujin graph,是全部要存在内存里么?
有没有其他像B+树一样基于硬盘的数据结构可选?
你们这个行业,其他组是怎么做的,调研过么?
【在 t*****z 的大作中提到】 : 我大概都看过一遍。我们所买的CLC就是很节省内存,速度还很快,在笔记本上都能拼 : 接人类基因组。但是,大家总觉得不靠谱。为了结果尽可能精确,我们还是倾向于用学 : 术界的assembler。我用的是IDBA-UD和SPAdes。 : 原则上,耗费内存的量跟de Brujin graph的复杂度有关,这一道坎过不去,不管什么 : 算法。 : 算法上是有人在改进。最近的几个程序都用了Bloom filter来节省内存,内存下去了, : 结果精确度不一定上来。我也需要调查下。
|
d*********s 发帖数: 306 | 19 不差钱的话关注EMC的DSSD产品。还有一段时间才能开始卖。具体参数不能说,但是产
品就是你这个思路,解决的就是你这样的问题。 |
t*****z 发帖数: 1598 | 20 现在绝大多数人用de Brujin graph(少数人用overlap graph),需要把大量数据(k-
mer)全放在内存里,从原理上说我也想不出不放内存的方法。但是我并不是CS出身,
也许想得不够清楚。
[发表自未名空间手机版 - m.mitbbs.com]
【在 L***s 的大作中提到】 : 你们这个什么de Brujin graph,是全部要存在内存里么? : 有没有其他像B+树一样基于硬盘的数据结构可选? : 你们这个行业,其他组是怎么做的,调研过么?
|
|
|
L***s 发帖数: 1148 | 21 不干这行,我不懂。
不过还是建议你调研一些你们bioinformatics业界主流做法是什么,不要闭门造车。
你肯定不是第一个碰到此类问题的人,解决方案可能早就有了。
k-
【在 t*****z 的大作中提到】 : 现在绝大多数人用de Brujin graph(少数人用overlap graph),需要把大量数据(k- : mer)全放在内存里,从原理上说我也想不出不放内存的方法。但是我并不是CS出身, : 也许想得不够清楚。 : : [发表自未名空间手机版 - m.mitbbs.com]
|
t*****z 发帖数: 1598 | 22 既然你不是这行的,请不要断言我闭门造车。
【在 L***s 的大作中提到】 : 不干这行,我不懂。 : 不过还是建议你调研一些你们bioinformatics业界主流做法是什么,不要闭门造车。 : 你肯定不是第一个碰到此类问题的人,解决方案可能早就有了。 : : k-
|
c****p 发帖数: 6474 | 23 全放在虚存里,然后一部分一部分处理呗。处理的那部分在物理内存里,剩下的在硬盘。
总不可能同时处理256GB的数据吧……
k-
【在 t*****z 的大作中提到】 : 现在绝大多数人用de Brujin graph(少数人用overlap graph),需要把大量数据(k- : mer)全放在内存里,从原理上说我也想不出不放内存的方法。但是我并不是CS出身, : 也许想得不够清楚。 : : [发表自未名空间手机版 - m.mitbbs.com]
|
d***a 发帖数: 13752 | 24 我的建议是买一个配大内存的server,价格也不是特别贵,比软件开发或系
统维护的人工费用便宜多了。比如说Dell Tower Server T630,
配16x16GB的内存,不到6000美元。
软件开发或系统维护的费用,动不动就是十万美元以上。就算是在学校,支
持一个PhD学生一年少说也要四五万美元,支持一个postdoc要十万美元。所以
正规的做法就是上大内存。花人工来省内存,是不省钱的。
用SSD当内存用的想法不可行,前面的人已经说过了。
256GB
【在 t*****z 的大作中提到】 : 用固态硬盘阵列代替物理内存的可行性 : 我现在的工作内容中,有一个关键环节(基因组拼接)是需要超大内存的,至少256GB : 起,多多益善,而内存交换速率并不很看中。这种规模的物理内存是十分昂贵的。我想 : ,可不可以用数个PCIe接口的SSD组成RAID0,然后把它们用作swap/ramdisk/virtual : ram什么的。如果可以的话,它们的速度和物理内存相比如何?设置的时候有什么需要 : 注意的吗? : 只是理论探讨。不要问我为什么不让单位买2TB物理内存之类的。
|
y*****0 发帖数: 1189 | 25 我们用128g内存加2*k20c的显卡,已经是2年前的东西了。我们这暂时不会更新,因为
在等新的xeon,ddr4内存和volta显卡,pascal。
你的算法估计是找一个算一个,瓶颈都在内存上,估计改进的余地也不大了,直接上大
内存吧,ebay上有128g的,不知道你能不能改变一下数据结构之类的,省一半bits。
【在 t*****z 的大作中提到】 : 既然你不是这行的,请不要断言我闭门造车。
|
v*******e 发帖数: 11604 | 26 GPU运算呀,羡慕。这个k20强在双精度浮点吧,做基因组是不是不需要浮点?
【在 y*****0 的大作中提到】 : 我们用128g内存加2*k20c的显卡,已经是2年前的东西了。我们这暂时不会更新,因为 : 在等新的xeon,ddr4内存和volta显卡,pascal。 : 你的算法估计是找一个算一个,瓶颈都在内存上,估计改进的余地也不大了,直接上大 : 内存吧,ebay上有128g的,不知道你能不能改变一下数据结构之类的,省一半bits。
|
y*****0 发帖数: 1189 | 27 不太懂基因组,问问楼主。
nvidia变化太猛了,不得不转型。如果不用双精度,titan x就完胜k20了。
【在 v*******e 的大作中提到】 : GPU运算呀,羡慕。这个k20强在双精度浮点吧,做基因组是不是不需要浮点?
|
t*****z 发帖数: 1598 | 28 我还没遇到过需要GPU的。以前做进化分析可以用到。现在唯一跟GPU有关的是BLAST的
某些特殊变种,但是应用不广泛。至于基因组拼接,因为涉及大内存,恐怕不可能用
GPU。
【在 y*****0 的大作中提到】 : 不太懂基因组,问问楼主。 : nvidia变化太猛了,不得不转型。如果不用双精度,titan x就完胜k20了。
|
t*****z 发帖数: 1598 | 29 我想,如果我有钱了,也会给自己买一台这样的工作站。现在我不在其位,不可能要求
买这种设备。你的建议向来都是让公家买好机器,是因为你的工作大量涉及这些事务吗?
【在 d***a 的大作中提到】 : 我的建议是买一个配大内存的server,价格也不是特别贵,比软件开发或系 : 统维护的人工费用便宜多了。比如说Dell Tower Server T630, : 配16x16GB的内存,不到6000美元。 : 软件开发或系统维护的费用,动不动就是十万美元以上。就算是在学校,支 : 持一个PhD学生一年少说也要四五万美元,支持一个postdoc要十万美元。所以 : 正规的做法就是上大内存。花人工来省内存,是不省钱的。 : 用SSD当内存用的想法不可行,前面的人已经说过了。 : : 256GB
|
t*****z 发帖数: 1598 | 30 你可以想象一个超大的hash table。。。
盘。
【在 c****p 的大作中提到】 : 全放在虚存里,然后一部分一部分处理呗。处理的那部分在物理内存里,剩下的在硬盘。 : 总不可能同时处理256GB的数据吧…… : : k-
|
|
|
V*********r 发帖数: 666 | 31 如果算法没有改进余地,租机器行不行?不一定要自己装机的 |
t*****z 发帖数: 1598 | 32 我并不真的准备装机,只是好奇下这件事情。我们单位有1TB内存的机器让我用(需要
排队但不是很紧张)。
【在 V*********r 的大作中提到】 : 如果算法没有改进余地,租机器行不行?不一定要自己装机的
|
h**v 发帖数: 2010 | 33 如果是跑lightroom和photoshop处理照片,大牛有啥电脑配置建议?我比较喜欢NUC那种
特小的form factor的,或者比NUC大点。前面帖子提到的alienware看着不错啊。不太喜
欢midtower。
吗?
【在 t*****z 的大作中提到】 : 我想,如果我有钱了,也会给自己买一台这样的工作站。现在我不在其位,不可能要求 : 买这种设备。你的建议向来都是让公家买好机器,是因为你的工作大量涉及这些事务吗?
|
c*****g 发帖数: 3871 | 34 如果对交换速率要求不太高,当然可以。我这里有个SSD虚拟出512G内存,用起来还可
以。
而且如果需要的话,可以弄上10台20台做阵列。
今年2TB的SSD应该价格降到大家可以接受的程度。
256GB
【在 t*****z 的大作中提到】 : 用固态硬盘阵列代替物理内存的可行性 : 我现在的工作内容中,有一个关键环节(基因组拼接)是需要超大内存的,至少256GB : 起,多多益善,而内存交换速率并不很看中。这种规模的物理内存是十分昂贵的。我想 : ,可不可以用数个PCIe接口的SSD组成RAID0,然后把它们用作swap/ramdisk/virtual : ram什么的。如果可以的话,它们的速度和物理内存相比如何?设置的时候有什么需要 : 注意的吗? : 只是理论探讨。不要问我为什么不让单位买2TB物理内存之类的。
|
t*****z 发帖数: 1598 | 35 这方面我并不了解哎,不好意思
那种
太喜
[发表自未名空间手机版 - m.mitbbs.com]
【在 h**v 的大作中提到】 : 如果是跑lightroom和photoshop处理照片,大牛有啥电脑配置建议?我比较喜欢NUC那种 : 特小的form factor的,或者比NUC大点。前面帖子提到的alienware看着不错啊。不太喜 : 欢midtower。 : : 吗?
|
t*****z 发帖数: 1598 | 36 谢谢你的正能量!你是说10个20个SSD组RAID吗?一般主板都没有那么多SATA接口呢。
[发表自未名空间手机版 - m.mitbbs.com]
【在 c*****g 的大作中提到】 : 如果对交换速率要求不太高,当然可以。我这里有个SSD虚拟出512G内存,用起来还可 : 以。 : 而且如果需要的话,可以弄上10台20台做阵列。 : 今年2TB的SSD应该价格降到大家可以接受的程度。 : : 256GB
|
c*****g 发帖数: 3871 | 37 不是,是用网络搭建阵列,这样理论上可以无限拓展
要是自己的机房,互相之间1Gbps的网速,我自己实测SSD的读写速度大概是280 MBps,
所以用1Gbps应该不会形成瓶颈。当然要做适当的网络优化。
【在 t*****z 的大作中提到】 : 谢谢你的正能量!你是说10个20个SSD组RAID吗?一般主板都没有那么多SATA接口呢。 : : [发表自未名空间手机版 - m.mitbbs.com]
|
n******7 发帖数: 12463 | |
d***a 发帖数: 13752 | 39 你记错了吧,我推荐过价格低廉的个人电子产品。
但这种用几百G内存的需求,个人计算中很少见。
用SSD代替,简单不可行。买大内存机器,是正常的做法,
也是工作中性价比好的做法,如此而已。
吗?
【在 t*****z 的大作中提到】 : 我想,如果我有钱了,也会给自己买一台这样的工作站。现在我不在其位,不可能要求 : 买这种设备。你的建议向来都是让公家买好机器,是因为你的工作大量涉及这些事务吗?
|
t*****z 发帖数: 1598 | 40 我想,这种分布式计算的编程应该比较麻烦吧,在基因组拼接方面,只有很少的程序支
持分布式。对了,我听说超算节点之间的通讯可以达到PCI express的水平,不知道自
己的机房能不能用呢。
【在 c*****g 的大作中提到】 : 不是,是用网络搭建阵列,这样理论上可以无限拓展 : 要是自己的机房,互相之间1Gbps的网速,我自己实测SSD的读写速度大概是280 MBps, : 所以用1Gbps应该不会形成瓶颈。当然要做适当的网络优化。
|
|
|
L***s 发帖数: 1148 | 41 内存往大了挑,16G起步,推荐32G
见附件,正常打开几个程序,这还没开虚拟机,就已经24G了
那种
太喜
【在 h**v 的大作中提到】 : 如果是跑lightroom和photoshop处理照片,大牛有啥电脑配置建议?我比较喜欢NUC那种 : 特小的form factor的,或者比NUC大点。前面帖子提到的alienware看着不错啊。不太喜 : 欢midtower。 : : 吗?
|
n******7 发帖数: 12463 | 42 我们这里是56.6 Gbps Infiniband connection
我不知道node-to-node是不是能独享这个带宽,还是要share
不过如果没有别人用multiple node的代码的话,应该区别不大吧
wiki了一下PCIE 4,确实在一个级别:
1x
15.754 Gbit/s (1969.2 MB/s)
16x
252.064 Gbit/s (31.508 GB/s)
【在 t*****z 的大作中提到】 : 我想,这种分布式计算的编程应该比较麻烦吧,在基因组拼接方面,只有很少的程序支 : 持分布式。对了,我听说超算节点之间的通讯可以达到PCI express的水平,不知道自 : 己的机房能不能用呢。
|
m*****n 发帖数: 3644 | 43 不需要吧。photoshop,8000X6000像素的图片,8G的内存都足够了。你非要建立50个层
,同时开20个这样的图片处理,那是自己管理不好。
【在 L***s 的大作中提到】 : 内存往大了挑,16G起步,推荐32G : 见附件,正常打开几个程序,这还没开虚拟机,就已经24G了 : : 那种 : 太喜
|
m*****n 发帖数: 3644 | 44 lightroom对内存吃的也不厉害。不过lightroom 和photoshop都是对多核心利用的相当
好的软件。堆核吧。
那种
太喜
【在 h**v 的大作中提到】 : 如果是跑lightroom和photoshop处理照片,大牛有啥电脑配置建议?我比较喜欢NUC那种 : 特小的form factor的,或者比NUC大点。前面帖子提到的alienware看着不错啊。不太喜 : 欢midtower。 : : 吗?
|
L***s 发帖数: 1148 | 45 就算是“建立50个层,同时开20个这样的图片处理”,那也是工作需要。
我就是一个普通用户,凭啥要我费心思去“管理”这些劳什子事。
最好的“管理”,就是给足资源放心用,“不用管理”。
【在 m*****n 的大作中提到】 : 不需要吧。photoshop,8000X6000像素的图片,8G的内存都足够了。你非要建立50个层 : ,同时开20个这样的图片处理,那是自己管理不好。
|
h*******u 发帖数: 15326 | 46 你们用infiniband是什么类型的应用?
【在 n******7 的大作中提到】 : 我们这里是56.6 Gbps Infiniband connection : 我不知道node-to-node是不是能独享这个带宽,还是要share : 不过如果没有别人用multiple node的代码的话,应该区别不大吧 : wiki了一下PCIE 4,确实在一个级别: : 1x : 15.754 Gbit/s (1969.2 MB/s) : 16x : 252.064 Gbit/s (31.508 GB/s)
|
d***a 发帖数: 13752 | 47 分布式计算,数据交换通过网络I/O进行。网络I/O的延迟比内存访问慢了四五个数据量
,所以对于需要以随机方式访问大内存的程序来说,分布式计算不是一个选项。
就象是骑自行车和坐高铁之间的差别。:)
【在 t*****z 的大作中提到】 : 我想,这种分布式计算的编程应该比较麻烦吧,在基因组拼接方面,只有很少的程序支 : 持分布式。对了,我听说超算节点之间的通讯可以达到PCI express的水平,不知道自 : 己的机房能不能用呢。
|
n******7 发帖数: 12463 | 48 就是inter-node communication啊
很多软件可以用上multiple nodes
【在 h*******u 的大作中提到】 : 你们用infiniband是什么类型的应用?
|
h*******u 发帖数: 15326 | 49 计算为主?
【在 n******7 的大作中提到】 : 就是inter-node communication啊 : 很多软件可以用上multiple nodes
|
n******7 发帖数: 12463 | 50 我看了一下我们计算节点到储存节点也是40Gbps的速度,应该也是这个东西
【在 h*******u 的大作中提到】 : 计算为主?
|
|
|
m*****n 发帖数: 3644 | 51 一个图片要建立50个层,肯定不是一个好的图片工作者。你图片搞了50个层,不论计算
机速度多快,都会发现做起来一团糟。什么艺术性也都扯淡了,就看着到处是层,找不
到。
这和码工们强调算法才是提高速度的关键一个道理。
【在 L***s 的大作中提到】 : 就算是“建立50个层,同时开20个这样的图片处理”,那也是工作需要。 : 我就是一个普通用户,凭啥要我费心思去“管理”这些劳什子事。 : 最好的“管理”,就是给足资源放心用,“不用管理”。
|
c*****z 发帖数: 1211 | 52 考虑用多节点吧。比如MATLAB处理巨型矩阵单机内存不够就可以用多机,具体各节点是
用mpi,物理连接可能是ib也可能是10gige,具体看你的需求了。如果数据可以分开处
理最后集中就用不着ib之类低延迟的网络。
256GB
【在 t*****z 的大作中提到】 : 用固态硬盘阵列代替物理内存的可行性 : 我现在的工作内容中,有一个关键环节(基因组拼接)是需要超大内存的,至少256GB : 起,多多益善,而内存交换速率并不很看中。这种规模的物理内存是十分昂贵的。我想 : ,可不可以用数个PCIe接口的SSD组成RAID0,然后把它们用作swap/ramdisk/virtual : ram什么的。如果可以的话,它们的速度和物理内存相比如何?设置的时候有什么需要 : 注意的吗? : 只是理论探讨。不要问我为什么不让单位买2TB物理内存之类的。
|