由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Hardware版 - 用固态硬盘阵列代替物理内存的可行性
相关主题
天河一号”超级计算机配置图老电脑SATA2.0的接口RaidSSD能提高总带宽吗?
后知后觉发现usb3的速度太牛了大伙帮忙出个主意
SATA是不是得有技术突破了?SSD RAID0是不是用硬RAID卡效果好很多
家用双屏,Lenovo Tiny还是Mac mini?有人试过两块SSD用RAID 0连起来么?
M900 tiny吃nvme不?nvme的ssd为啥没有做到1tb的现在
求助M.2兼容性前几天那个 M600的M.2 ssd能不能做成raid 0?
120Gx2做RAID0是否比240Gx1好得多?总价差不多6G内存的机器跑Win7是什么感觉?
求高手推荐RAID卡不明白大家对SSD为啥那么high。搞个16G内存不好吗?
相关话题的讨论汇总
话题: 内存话题: 256gb话题: ssd话题: 物理话题: 基因组
进入Hardware版参与讨论
1 (共1页)
t*****z
发帖数: 1598
1
用固态硬盘阵列代替物理内存的可行性
我现在的工作内容中,有一个关键环节(基因组拼接)是需要超大内存的,至少256GB
起,多多益善,而内存交换速率并不很看中。这种规模的物理内存是十分昂贵的。我想
,可不可以用数个PCIe接口的SSD组成RAID0,然后把它们用作swap/ramdisk/virtual
ram什么的。如果可以的话,它们的速度和物理内存相比如何?设置的时候有什么需要
注意的吗?
只是理论探讨。不要问我为什么不让单位买2TB物理内存之类的。
t******o
发帖数: 1470
2
你想想为啥有ramdisk这个东西,或者你做计算为啥要避开swap memory.
1. ssd大概是ram速度的1%,access time, ssd是几十ms, ram是几个ns, 这个靠
raid0上来,成本,可靠性都成啥了
2. 现在的cpu体系,你可以从ram pre-load到cpu, 不能i/o pre-load啊,大改系统?

256GB

【在 t*****z 的大作中提到】
: 用固态硬盘阵列代替物理内存的可行性
: 我现在的工作内容中,有一个关键环节(基因组拼接)是需要超大内存的,至少256GB
: 起,多多益善,而内存交换速率并不很看中。这种规模的物理内存是十分昂贵的。我想
: ,可不可以用数个PCIe接口的SSD组成RAID0,然后把它们用作swap/ramdisk/virtual
: ram什么的。如果可以的话,它们的速度和物理内存相比如何?设置的时候有什么需要
: 注意的吗?
: 只是理论探讨。不要问我为什么不让单位买2TB物理内存之类的。

l*******1
发帖数: 866
3
按写内存的频率写,就算有trim,SSD也很快就得完蛋了吧?

256GB

【在 t*****z 的大作中提到】
: 用固态硬盘阵列代替物理内存的可行性
: 我现在的工作内容中,有一个关键环节(基因组拼接)是需要超大内存的,至少256GB
: 起,多多益善,而内存交换速率并不很看中。这种规模的物理内存是十分昂贵的。我想
: ,可不可以用数个PCIe接口的SSD组成RAID0,然后把它们用作swap/ramdisk/virtual
: ram什么的。如果可以的话,它们的速度和物理内存相比如何?设置的时候有什么需要
: 注意的吗?
: 只是理论探讨。不要问我为什么不让单位买2TB物理内存之类的。

a*o
发帖数: 19981
4
显然你程序架构有严重问题,如果size matters,speed does not,那你显然根本就不
应该有一大堆数据在memory里,弄个数据库做bankend才靠谱。

256GB

【在 t*****z 的大作中提到】
: 用固态硬盘阵列代替物理内存的可行性
: 我现在的工作内容中,有一个关键环节(基因组拼接)是需要超大内存的,至少256GB
: 起,多多益善,而内存交换速率并不很看中。这种规模的物理内存是十分昂贵的。我想
: ,可不可以用数个PCIe接口的SSD组成RAID0,然后把它们用作swap/ramdisk/virtual
: ram什么的。如果可以的话,它们的速度和物理内存相比如何?设置的时候有什么需要
: 注意的吗?
: 只是理论探讨。不要问我为什么不让单位买2TB物理内存之类的。

n******7
发帖数: 12463
5
你用什么assembler?
还是改进算法更实际
搜搜memory efficient genome assembly很多结果
不过我都没用过
g*******t
发帖数: 7704
6
想法有问题, 内存不是用来存储数据的,
内存一般是放代码,放临时数据,堆栈,
h*******u
发帖数: 15326
7
可以
现在有公司在做
很贵

256GB

【在 t*****z 的大作中提到】
: 用固态硬盘阵列代替物理内存的可行性
: 我现在的工作内容中,有一个关键环节(基因组拼接)是需要超大内存的,至少256GB
: 起,多多益善,而内存交换速率并不很看中。这种规模的物理内存是十分昂贵的。我想
: ,可不可以用数个PCIe接口的SSD组成RAID0,然后把它们用作swap/ramdisk/virtual
: ram什么的。如果可以的话,它们的速度和物理内存相比如何?设置的时候有什么需要
: 注意的吗?
: 只是理论探讨。不要问我为什么不让单位买2TB物理内存之类的。

t*****z
发帖数: 1598
8
谢谢!你说的对我很有帮助。

【在 t******o 的大作中提到】
: 你想想为啥有ramdisk这个东西,或者你做计算为啥要避开swap memory.
: 1. ssd大概是ram速度的1%,access time, ssd是几十ms, ram是几个ns, 这个靠
: raid0上来,成本,可靠性都成啥了
: 2. 现在的cpu体系,你可以从ram pre-load到cpu, 不能i/o pre-load啊,大改系统?
:
: 256GB

t*****z
发帖数: 1598
9
速度也是需要的,只是不是最关键的因素,但也不能降低到磁盘的水平。

【在 a*o 的大作中提到】
: 显然你程序架构有严重问题,如果size matters,speed does not,那你显然根本就不
: 应该有一大堆数据在memory里,弄个数据库做bankend才靠谱。
:
: 256GB

t*****z
发帖数: 1598
10
我大概都看过一遍。我们所买的CLC就是很节省内存,速度还很快,在笔记本上都能拼
接人类基因组。但是,大家总觉得不靠谱。为了结果尽可能精确,我们还是倾向于用学
术界的assembler。我用的是IDBA-UD和SPAdes。
原则上,耗费内存的量跟de Brujin graph的复杂度有关,这一道坎过不去,不管什么
算法。
算法上是有人在改进。最近的几个程序都用了Bloom filter来节省内存,内存下去了,
结果精确度不一定上来。我也需要调查下。

【在 n******7 的大作中提到】
: 你用什么assembler?
: 还是改进算法更实际
: 搜搜memory efficient genome assembly很多结果
: 不过我都没用过

相关主题
求助M.2兼容性老电脑SATA2.0的接口RaidSSD能提高总带宽吗?
120Gx2做RAID0是否比240Gx1好得多?总价差不多大伙帮忙出个主意
求高手推荐RAID卡SSD RAID0是不是用硬RAID卡效果好很多
进入Hardware版参与讨论
a*f
发帖数: 1790
11
基因组拼接搜寻空间太大了,不能从算法上解决吗?比如搞成类似MapR的结构速度成本
都能优化

256GB

【在 t*****z 的大作中提到】
: 用固态硬盘阵列代替物理内存的可行性
: 我现在的工作内容中,有一个关键环节(基因组拼接)是需要超大内存的,至少256GB
: 起,多多益善,而内存交换速率并不很看中。这种规模的物理内存是十分昂贵的。我想
: ,可不可以用数个PCIe接口的SSD组成RAID0,然后把它们用作swap/ramdisk/virtual
: ram什么的。如果可以的话,它们的速度和物理内存相比如何?设置的时候有什么需要
: 注意的吗?
: 只是理论探讨。不要问我为什么不让单位买2TB物理内存之类的。

a*o
发帖数: 19981
12
我也觉得还是算法的问题,不可能一定要搁内存里才能解决。
要按这个说法google的搜索服务器还不得弄个几光年的内存啊。

【在 a*f 的大作中提到】
: 基因组拼接搜寻空间太大了,不能从算法上解决吗?比如搞成类似MapR的结构速度成本
: 都能优化
:
: 256GB

t*****z
发帖数: 1598
13
你是说UlltraDIMM吗?

【在 h*******u 的大作中提到】
: 可以
: 现在有公司在做
: 很贵
:
: 256GB

t*****z
发帖数: 1598
14
你说得有道理。算法一直跟不上去。好在即使最传统的基因组拼接算法,内存需求量只
跟基因组复杂度有关,而跟数据量无关。所以即使以后数据越来越多了,内存这个问题
也不会更加严重。
Anyway, good data beat good algorithm. 只要有大数据,什么算法都不重要。

【在 a*o 的大作中提到】
: 我也觉得还是算法的问题,不可能一定要搁内存里才能解决。
: 要按这个说法google的搜索服务器还不得弄个几光年的内存啊。

h*******u
发帖数: 15326
15
类似的
还有更猛的,容量几百T

【在 t*****z 的大作中提到】
: 你是说UlltraDIMM吗?
j******o
发帖数: 4219
16
你的方向不太对,从来只有内存替代磁盘的,从来没有反过来的。从架构上,你可以直
接访问内存,但是没办法直接访问磁盘。弄到最后你的成本可能比直接上大内存更高。
a9
发帖数: 21638
17
一直就有,windows叫虚拟内存,linux叫swap。哈 哈

【在 j******o 的大作中提到】
: 你的方向不太对,从来只有内存替代磁盘的,从来没有反过来的。从架构上,你可以直
: 接访问内存,但是没办法直接访问磁盘。弄到最后你的成本可能比直接上大内存更高。

L***s
发帖数: 1148
18
你们这个什么de Brujin graph,是全部要存在内存里么?
有没有其他像B+树一样基于硬盘的数据结构可选?
你们这个行业,其他组是怎么做的,调研过么?

【在 t*****z 的大作中提到】
: 我大概都看过一遍。我们所买的CLC就是很节省内存,速度还很快,在笔记本上都能拼
: 接人类基因组。但是,大家总觉得不靠谱。为了结果尽可能精确,我们还是倾向于用学
: 术界的assembler。我用的是IDBA-UD和SPAdes。
: 原则上,耗费内存的量跟de Brujin graph的复杂度有关,这一道坎过不去,不管什么
: 算法。
: 算法上是有人在改进。最近的几个程序都用了Bloom filter来节省内存,内存下去了,
: 结果精确度不一定上来。我也需要调查下。

d*********s
发帖数: 306
19
不差钱的话关注EMC的DSSD产品。还有一段时间才能开始卖。具体参数不能说,但是产
品就是你这个思路,解决的就是你这样的问题。
t*****z
发帖数: 1598
20
现在绝大多数人用de Brujin graph(少数人用overlap graph),需要把大量数据(k-
mer)全放在内存里,从原理上说我也想不出不放内存的方法。但是我并不是CS出身,
也许想得不够清楚。

[发表自未名空间手机版 - m.mitbbs.com]

【在 L***s 的大作中提到】
: 你们这个什么de Brujin graph,是全部要存在内存里么?
: 有没有其他像B+树一样基于硬盘的数据结构可选?
: 你们这个行业,其他组是怎么做的,调研过么?

相关主题
有人试过两块SSD用RAID 0连起来么?6G内存的机器跑Win7是什么感觉?
nvme的ssd为啥没有做到1tb的现在不明白大家对SSD为啥那么high。搞个16G内存不好吗?
前几天那个 M600的M.2 ssd能不能做成raid 0?1G内存跑Windows Server 2008/SQL Express/IIS行吗
进入Hardware版参与讨论
L***s
发帖数: 1148
21
不干这行,我不懂。
不过还是建议你调研一些你们bioinformatics业界主流做法是什么,不要闭门造车。
你肯定不是第一个碰到此类问题的人,解决方案可能早就有了。

k-

【在 t*****z 的大作中提到】
: 现在绝大多数人用de Brujin graph(少数人用overlap graph),需要把大量数据(k-
: mer)全放在内存里,从原理上说我也想不出不放内存的方法。但是我并不是CS出身,
: 也许想得不够清楚。
:
: [发表自未名空间手机版 - m.mitbbs.com]

t*****z
发帖数: 1598
22
既然你不是这行的,请不要断言我闭门造车。

【在 L***s 的大作中提到】
: 不干这行,我不懂。
: 不过还是建议你调研一些你们bioinformatics业界主流做法是什么,不要闭门造车。
: 你肯定不是第一个碰到此类问题的人,解决方案可能早就有了。
:
: k-

c****p
发帖数: 6474
23
全放在虚存里,然后一部分一部分处理呗。处理的那部分在物理内存里,剩下的在硬盘。
总不可能同时处理256GB的数据吧……

k-

【在 t*****z 的大作中提到】
: 现在绝大多数人用de Brujin graph(少数人用overlap graph),需要把大量数据(k-
: mer)全放在内存里,从原理上说我也想不出不放内存的方法。但是我并不是CS出身,
: 也许想得不够清楚。
:
: [发表自未名空间手机版 - m.mitbbs.com]

d***a
发帖数: 13752
24
我的建议是买一个配大内存的server,价格也不是特别贵,比软件开发或系
统维护的人工费用便宜多了。比如说Dell Tower Server T630,
配16x16GB的内存,不到6000美元。
软件开发或系统维护的费用,动不动就是十万美元以上。就算是在学校,支
持一个PhD学生一年少说也要四五万美元,支持一个postdoc要十万美元。所以
正规的做法就是上大内存。花人工来省内存,是不省钱的。
用SSD当内存用的想法不可行,前面的人已经说过了。

256GB

【在 t*****z 的大作中提到】
: 用固态硬盘阵列代替物理内存的可行性
: 我现在的工作内容中,有一个关键环节(基因组拼接)是需要超大内存的,至少256GB
: 起,多多益善,而内存交换速率并不很看中。这种规模的物理内存是十分昂贵的。我想
: ,可不可以用数个PCIe接口的SSD组成RAID0,然后把它们用作swap/ramdisk/virtual
: ram什么的。如果可以的话,它们的速度和物理内存相比如何?设置的时候有什么需要
: 注意的吗?
: 只是理论探讨。不要问我为什么不让单位买2TB物理内存之类的。

y*****0
发帖数: 1189
25
我们用128g内存加2*k20c的显卡,已经是2年前的东西了。我们这暂时不会更新,因为
在等新的xeon,ddr4内存和volta显卡,pascal。
你的算法估计是找一个算一个,瓶颈都在内存上,估计改进的余地也不大了,直接上大
内存吧,ebay上有128g的,不知道你能不能改变一下数据结构之类的,省一半bits。

【在 t*****z 的大作中提到】
: 既然你不是这行的,请不要断言我闭门造车。
v*******e
发帖数: 11604
26
GPU运算呀,羡慕。这个k20强在双精度浮点吧,做基因组是不是不需要浮点?

【在 y*****0 的大作中提到】
: 我们用128g内存加2*k20c的显卡,已经是2年前的东西了。我们这暂时不会更新,因为
: 在等新的xeon,ddr4内存和volta显卡,pascal。
: 你的算法估计是找一个算一个,瓶颈都在内存上,估计改进的余地也不大了,直接上大
: 内存吧,ebay上有128g的,不知道你能不能改变一下数据结构之类的,省一半bits。

y*****0
发帖数: 1189
27
不太懂基因组,问问楼主。
nvidia变化太猛了,不得不转型。如果不用双精度,titan x就完胜k20了。

【在 v*******e 的大作中提到】
: GPU运算呀,羡慕。这个k20强在双精度浮点吧,做基因组是不是不需要浮点?
t*****z
发帖数: 1598
28
我还没遇到过需要GPU的。以前做进化分析可以用到。现在唯一跟GPU有关的是BLAST的
某些特殊变种,但是应用不广泛。至于基因组拼接,因为涉及大内存,恐怕不可能用
GPU。

【在 y*****0 的大作中提到】
: 不太懂基因组,问问楼主。
: nvidia变化太猛了,不得不转型。如果不用双精度,titan x就完胜k20了。

t*****z
发帖数: 1598
29
我想,如果我有钱了,也会给自己买一台这样的工作站。现在我不在其位,不可能要求
买这种设备。你的建议向来都是让公家买好机器,是因为你的工作大量涉及这些事务吗?

【在 d***a 的大作中提到】
: 我的建议是买一个配大内存的server,价格也不是特别贵,比软件开发或系
: 统维护的人工费用便宜多了。比如说Dell Tower Server T630,
: 配16x16GB的内存,不到6000美元。
: 软件开发或系统维护的费用,动不动就是十万美元以上。就算是在学校,支
: 持一个PhD学生一年少说也要四五万美元,支持一个postdoc要十万美元。所以
: 正规的做法就是上大内存。花人工来省内存,是不省钱的。
: 用SSD当内存用的想法不可行,前面的人已经说过了。
:
: 256GB

t*****z
发帖数: 1598
30
你可以想象一个超大的hash table。。。

盘。

【在 c****p 的大作中提到】
: 全放在虚存里,然后一部分一部分处理呗。处理的那部分在物理内存里,剩下的在硬盘。
: 总不可能同时处理256GB的数据吧……
:
: k-

相关主题
现在读写速度最快的SSD是哪家啊?后知后觉发现usb3的速度太牛了
求助,新买的Dell台式机性能很差SATA是不是得有技术突破了?
天河一号”超级计算机配置图家用双屏,Lenovo Tiny还是Mac mini?
进入Hardware版参与讨论
V*********r
发帖数: 666
31
如果算法没有改进余地,租机器行不行?不一定要自己装机的
t*****z
发帖数: 1598
32
我并不真的准备装机,只是好奇下这件事情。我们单位有1TB内存的机器让我用(需要
排队但不是很紧张)。

【在 V*********r 的大作中提到】
: 如果算法没有改进余地,租机器行不行?不一定要自己装机的
h**v
发帖数: 2010
33
如果是跑lightroom和photoshop处理照片,大牛有啥电脑配置建议?我比较喜欢NUC那种
特小的form factor的,或者比NUC大点。前面帖子提到的alienware看着不错啊。不太喜
欢midtower。

吗?

【在 t*****z 的大作中提到】
: 我想,如果我有钱了,也会给自己买一台这样的工作站。现在我不在其位,不可能要求
: 买这种设备。你的建议向来都是让公家买好机器,是因为你的工作大量涉及这些事务吗?

c*****g
发帖数: 3871
34
如果对交换速率要求不太高,当然可以。我这里有个SSD虚拟出512G内存,用起来还可
以。
而且如果需要的话,可以弄上10台20台做阵列。
今年2TB的SSD应该价格降到大家可以接受的程度。

256GB

【在 t*****z 的大作中提到】
: 用固态硬盘阵列代替物理内存的可行性
: 我现在的工作内容中,有一个关键环节(基因组拼接)是需要超大内存的,至少256GB
: 起,多多益善,而内存交换速率并不很看中。这种规模的物理内存是十分昂贵的。我想
: ,可不可以用数个PCIe接口的SSD组成RAID0,然后把它们用作swap/ramdisk/virtual
: ram什么的。如果可以的话,它们的速度和物理内存相比如何?设置的时候有什么需要
: 注意的吗?
: 只是理论探讨。不要问我为什么不让单位买2TB物理内存之类的。

t*****z
发帖数: 1598
35
这方面我并不了解哎,不好意思

那种
太喜
[发表自未名空间手机版 - m.mitbbs.com]

【在 h**v 的大作中提到】
: 如果是跑lightroom和photoshop处理照片,大牛有啥电脑配置建议?我比较喜欢NUC那种
: 特小的form factor的,或者比NUC大点。前面帖子提到的alienware看着不错啊。不太喜
: 欢midtower。
:
: 吗?

t*****z
发帖数: 1598
36
谢谢你的正能量!你是说10个20个SSD组RAID吗?一般主板都没有那么多SATA接口呢。

[发表自未名空间手机版 - m.mitbbs.com]

【在 c*****g 的大作中提到】
: 如果对交换速率要求不太高,当然可以。我这里有个SSD虚拟出512G内存,用起来还可
: 以。
: 而且如果需要的话,可以弄上10台20台做阵列。
: 今年2TB的SSD应该价格降到大家可以接受的程度。
:
: 256GB

c*****g
发帖数: 3871
37
不是,是用网络搭建阵列,这样理论上可以无限拓展
要是自己的机房,互相之间1Gbps的网速,我自己实测SSD的读写速度大概是280 MBps,
所以用1Gbps应该不会形成瓶颈。当然要做适当的网络优化。

【在 t*****z 的大作中提到】
: 谢谢你的正能量!你是说10个20个SSD组RAID吗?一般主板都没有那么多SATA接口呢。
:
: [发表自未名空间手机版 - m.mitbbs.com]

n******7
发帖数: 12463
d***a
发帖数: 13752
39
你记错了吧,我推荐过价格低廉的个人电子产品。
但这种用几百G内存的需求,个人计算中很少见。
用SSD代替,简单不可行。买大内存机器,是正常的做法,
也是工作中性价比好的做法,如此而已。

吗?

【在 t*****z 的大作中提到】
: 我想,如果我有钱了,也会给自己买一台这样的工作站。现在我不在其位,不可能要求
: 买这种设备。你的建议向来都是让公家买好机器,是因为你的工作大量涉及这些事务吗?

t*****z
发帖数: 1598
40
我想,这种分布式计算的编程应该比较麻烦吧,在基因组拼接方面,只有很少的程序支
持分布式。对了,我听说超算节点之间的通讯可以达到PCI express的水平,不知道自
己的机房能不能用呢。

【在 c*****g 的大作中提到】
: 不是,是用网络搭建阵列,这样理论上可以无限拓展
: 要是自己的机房,互相之间1Gbps的网速,我自己实测SSD的读写速度大概是280 MBps,
: 所以用1Gbps应该不会形成瓶颈。当然要做适当的网络优化。

相关主题
家用双屏,Lenovo Tiny还是Mac mini?120Gx2做RAID0是否比240Gx1好得多?总价差不多
M900 tiny吃nvme不?求高手推荐RAID卡
求助M.2兼容性老电脑SATA2.0的接口RaidSSD能提高总带宽吗?
进入Hardware版参与讨论
L***s
发帖数: 1148
41
内存往大了挑,16G起步,推荐32G
见附件,正常打开几个程序,这还没开虚拟机,就已经24G了

那种
太喜

【在 h**v 的大作中提到】
: 如果是跑lightroom和photoshop处理照片,大牛有啥电脑配置建议?我比较喜欢NUC那种
: 特小的form factor的,或者比NUC大点。前面帖子提到的alienware看着不错啊。不太喜
: 欢midtower。
:
: 吗?

n******7
发帖数: 12463
42
我们这里是56.6 Gbps Infiniband connection
我不知道node-to-node是不是能独享这个带宽,还是要share
不过如果没有别人用multiple node的代码的话,应该区别不大吧
wiki了一下PCIE 4,确实在一个级别:
1x
15.754 Gbit/s (1969.2 MB/s)
16x
252.064 Gbit/s (31.508 GB/s)

【在 t*****z 的大作中提到】
: 我想,这种分布式计算的编程应该比较麻烦吧,在基因组拼接方面,只有很少的程序支
: 持分布式。对了,我听说超算节点之间的通讯可以达到PCI express的水平,不知道自
: 己的机房能不能用呢。

m*****n
发帖数: 3644
43
不需要吧。photoshop,8000X6000像素的图片,8G的内存都足够了。你非要建立50个层
,同时开20个这样的图片处理,那是自己管理不好。

【在 L***s 的大作中提到】
: 内存往大了挑,16G起步,推荐32G
: 见附件,正常打开几个程序,这还没开虚拟机,就已经24G了
:
: 那种
: 太喜

m*****n
发帖数: 3644
44
lightroom对内存吃的也不厉害。不过lightroom 和photoshop都是对多核心利用的相当
好的软件。堆核吧。

那种
太喜

【在 h**v 的大作中提到】
: 如果是跑lightroom和photoshop处理照片,大牛有啥电脑配置建议?我比较喜欢NUC那种
: 特小的form factor的,或者比NUC大点。前面帖子提到的alienware看着不错啊。不太喜
: 欢midtower。
:
: 吗?

L***s
发帖数: 1148
45
就算是“建立50个层,同时开20个这样的图片处理”,那也是工作需要。
我就是一个普通用户,凭啥要我费心思去“管理”这些劳什子事。
最好的“管理”,就是给足资源放心用,“不用管理”。

【在 m*****n 的大作中提到】
: 不需要吧。photoshop,8000X6000像素的图片,8G的内存都足够了。你非要建立50个层
: ,同时开20个这样的图片处理,那是自己管理不好。

h*******u
发帖数: 15326
46
你们用infiniband是什么类型的应用?

【在 n******7 的大作中提到】
: 我们这里是56.6 Gbps Infiniband connection
: 我不知道node-to-node是不是能独享这个带宽,还是要share
: 不过如果没有别人用multiple node的代码的话,应该区别不大吧
: wiki了一下PCIE 4,确实在一个级别:
: 1x
: 15.754 Gbit/s (1969.2 MB/s)
: 16x
: 252.064 Gbit/s (31.508 GB/s)

d***a
发帖数: 13752
47
分布式计算,数据交换通过网络I/O进行。网络I/O的延迟比内存访问慢了四五个数据量
,所以对于需要以随机方式访问大内存的程序来说,分布式计算不是一个选项。
就象是骑自行车和坐高铁之间的差别。:)

【在 t*****z 的大作中提到】
: 我想,这种分布式计算的编程应该比较麻烦吧,在基因组拼接方面,只有很少的程序支
: 持分布式。对了,我听说超算节点之间的通讯可以达到PCI express的水平,不知道自
: 己的机房能不能用呢。

n******7
发帖数: 12463
48
就是inter-node communication啊
很多软件可以用上multiple nodes

【在 h*******u 的大作中提到】
: 你们用infiniband是什么类型的应用?
h*******u
发帖数: 15326
49
计算为主?

【在 n******7 的大作中提到】
: 就是inter-node communication啊
: 很多软件可以用上multiple nodes

n******7
发帖数: 12463
50
我看了一下我们计算节点到储存节点也是40Gbps的速度,应该也是这个东西

【在 h*******u 的大作中提到】
: 计算为主?
相关主题
大伙帮忙出个主意nvme的ssd为啥没有做到1tb的现在
SSD RAID0是不是用硬RAID卡效果好很多前几天那个 M600的M.2 ssd能不能做成raid 0?
有人试过两块SSD用RAID 0连起来么?6G内存的机器跑Win7是什么感觉?
进入Hardware版参与讨论
m*****n
发帖数: 3644
51
一个图片要建立50个层,肯定不是一个好的图片工作者。你图片搞了50个层,不论计算
机速度多快,都会发现做起来一团糟。什么艺术性也都扯淡了,就看着到处是层,找不
到。
这和码工们强调算法才是提高速度的关键一个道理。

【在 L***s 的大作中提到】
: 就算是“建立50个层,同时开20个这样的图片处理”,那也是工作需要。
: 我就是一个普通用户,凭啥要我费心思去“管理”这些劳什子事。
: 最好的“管理”,就是给足资源放心用,“不用管理”。

c*****z
发帖数: 1211
52
考虑用多节点吧。比如MATLAB处理巨型矩阵单机内存不够就可以用多机,具体各节点是
用mpi,物理连接可能是ib也可能是10gige,具体看你的需求了。如果数据可以分开处
理最后集中就用不着ib之类低延迟的网络。

256GB

【在 t*****z 的大作中提到】
: 用固态硬盘阵列代替物理内存的可行性
: 我现在的工作内容中,有一个关键环节(基因组拼接)是需要超大内存的,至少256GB
: 起,多多益善,而内存交换速率并不很看中。这种规模的物理内存是十分昂贵的。我想
: ,可不可以用数个PCIe接口的SSD组成RAID0,然后把它们用作swap/ramdisk/virtual
: ram什么的。如果可以的话,它们的速度和物理内存相比如何?设置的时候有什么需要
: 注意的吗?
: 只是理论探讨。不要问我为什么不让单位买2TB物理内存之类的。

1 (共1页)
进入Hardware版参与讨论
相关主题
不明白大家对SSD为啥那么high。搞个16G内存不好吗?M900 tiny吃nvme不?
1G内存跑Windows Server 2008/SQL Express/IIS行吗求助M.2兼容性
现在读写速度最快的SSD是哪家啊?120Gx2做RAID0是否比240Gx1好得多?总价差不多
求助,新买的Dell台式机性能很差求高手推荐RAID卡
天河一号”超级计算机配置图老电脑SATA2.0的接口RaidSSD能提高总带宽吗?
后知后觉发现usb3的速度太牛了大伙帮忙出个主意
SATA是不是得有技术突破了?SSD RAID0是不是用硬RAID卡效果好很多
家用双屏,Lenovo Tiny还是Mac mini?有人试过两块SSD用RAID 0连起来么?
相关话题的讨论汇总
话题: 内存话题: 256gb话题: ssd话题: 物理话题: 基因组