24小时热门版块排行榜    

查看: 1864  |  回复: 6

neoxie

金虫 (小有名气)

[求助] 实验室计算机群硬盘存储设计

现在实验室有五台双路机器,两台各带两块sata1T硬盘,另外三台各带一块300GSAS和两块1Tsata。想做磁盘阵列,但存储设计没有什么好的想法。希望大家多提意见,谢谢了!
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zouming1979

捐助贵宾 (小有名气)

【答案】应助回帖

★ ★
感谢参与,应助指数 +1
dbb627: 金币+2, 欢迎交流 2012-04-29 09:14:53
目前你现在的情况很难做成一个好用的存储系统。
通常磁盘阵列是集中存放,单独管理。这样可以通过硬件做raid等相关工作,软件(也可以硬件)提供文件系统共享。
现在你需要用软件做raid,而且是分布式的raid(难度不小),软件还需要网络(或者分布)文件系统。这样的系统稳定性堪忧。虽然有软件能做这事,比如搭建Hadoop环境,HDFS可以提供这样的功能,但是一般软件是无法在这样的环境下运行的,一般都是做海量数据处理和互联网应用才能用到这样的平台。也有商业的软件能实现这功能,但是通常也是用一台机器上带了12-48块硬盘,专做存储服务器,而不是计算和存储都提供。
如果你想用五台机器的本地磁盘做存储,基本上没有什么好方法。
一种简单方法,从五台机器中拿出一台,上个raid卡(能上才行),买几块块硬盘,做个raid5,搭个NFS或者samba服务器。不舍得浪费的话,NFS服务器还可以做计算,但是别把所有核给跑满了,留几个核给NFS服务器使

» 本帖已获得的红花(最新10朵)

2楼2012-04-27 20:40:40
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

neoxie

金虫 (小有名气)

送鲜花一朵
引用回帖:
2楼: Originally posted by zouming1979 at 2012-04-27 20:40:40:
目前你现在的情况很难做成一个好用的存储系统。
通常磁盘阵列是集中存放,单独管理。这样可以通过硬件做raid等相关工作,软件(也可以硬件)提供文件系统共享。
现在你需要用软件做raid,而且是分布式的raid(难 ...

谢谢你的回复。
旁边实验室他们的服务器搭建是一共16台,每台一块300G本地sas,再有一台管理节点上挂存储硬盘。
可这样不是就浪费了本地的sas(只能用来装系统了),而且cpu读取的还是7000转的sata存储硬盘。我就是想想个办法避免这种浪费,最好还能让cpu直接从sas上读。
3楼2012-04-28 08:52:58
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

风间的记忆

铁杆木虫 (著名写手)

【答案】应助回帖

★ ★
感谢参与,应助指数 +1
cenwanglai: 金币+2, ~~ 2012-04-29 20:32:17
本地硬盘怎么会浪费
结果数据能写到本地硬盘有木有
大的访问量NFS扛不住有木有
PS:
你自己的那问题也是脚本写数据的问题
九州浩淼,任其东西,明日何在,但随我意。
4楼2012-04-28 13:29:52
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

neoxie

金虫 (小有名气)

引用回帖:
4楼: Originally posted by 风间的记忆 at 2012-04-28 13:29:52:
本地硬盘怎么会浪费
结果数据能写到本地硬盘有木有
大的访问量NFS扛不住有木有
PS:
你自己的那问题也是脚本写数据的问题

home是挂载在2T的sata存储盘上,程序都是从/home自己的文件夹读写的。不是吗?
5楼2012-04-28 20:47:54
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zouming1979

捐助贵宾 (小有名气)

【答案】应助回帖

★ ★
cenwanglai: 金币+2, 谢谢回复~ 2012-04-29 20:32:40
程序和数据都是从/home读取。
但是程序的数据可以写到本地磁盘。一般程序的输出都是写到首节点的文件系统上,指向本地就写到本地,指向共享目录就写到共享目录。
在脚本里面制定输出的目录,可以指向非共享的目录上,这样就写到本地磁盘。
只是数据分散到各个磁盘,管理起来有点麻烦。不过可以作业结束后,用作业管理系统的后置脚本将本地磁盘的数据拷回共享目录
6楼2012-04-29 16:07:22
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

abbott

金虫 (著名写手)

不要用QQ问我东西

5楼正解.

完全可以控制计算过程中的数据存放位置.
采用计算完毕之后拷贝数据, 这样可以减轻存储服务器的压力,
同时提升计算节点本地读写的性能.
Chemistry[]==[]Chem[]is[]try!!!
7楼2012-05-02 21:30:00
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 neoxie 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[公派出国] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +3 zSbvVX9JFl9J 2026-11-09 3/150 2026-11-10 01:40 by FChKX8meu1ds
[考博] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +3 zSbvVX9JFl9J 2026-11-09 4/200 2026-11-10 01:29 by FChKX8meu1ds
[考博] 售SCI一区T0P文章,我:8.O.55.1.O54,科目全,可伽急 +5 kvewwGtKktqB 2026-11-04 12/600 2026-11-09 13:26 by Equinoxhua
[考研] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +5 ttH3f1oA6ace 2026-11-04 15/750 2026-11-09 13:19 by Equinoxhua
[考研] 售SCI文章,我:8O.5.5.1O.54,科目全,可十急 +6 5sJFDKp2kwuI 2026-11-06 14/700 2026-11-09 11:52 by GwrQVVR6Oenx
[考博] 售SCI文章,我:8O.5.5.1O.54,科目全,可十急 +5 5sJFDKp2kwuI 2026-11-06 15/750 2026-11-09 11:41 by GwrQVVR6Oenx
[硕博家园] 售SCI一区文章,我:8O5.5.1.O5.4,科目全,可伽急 +4 5sJFDKp2kwuI 2026-11-06 10/500 2026-11-09 08:00 by IhnEQauGmT3K
[考研] 售SCI一区T0P文章,我:8O.55.1.O.54,科目全,可伽急 +3 5sJFDKp2kwuI 2026-11-06 12/600 2026-11-09 06:32 by l48hFd8Nwae2
[公派出国] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +4 5sJFDKp2kwuI 2026-11-06 8/400 2026-11-09 00:14 by l48hFd8Nwae2
[教师之家] 售SCI一区T0P文章,我:8.O.55.1.O.5.4,科目全,可+急 +5 5sJFDKp2kwuI 2026-11-06 9/450 2026-11-08 22:46 by l48hFd8Nwae2
[教师之家] 延安大学回应“副教授留绝笔信”:确已离世,正核实举报内容 +3 yexuqing 2026-11-04 5/250 2026-11-07 13:22 by 苏东坡二世
[公派出国] 售SCI一区T0P文章,我:8.O.55.1.O.54,科目齐全,可+急 +5 ttH3f1oA6ace 2026-11-04 10/500 2026-11-06 16:12 by 5sJFDKp2kwuI
[公派出国] 售SCI一区文章,我:8.O.551.O.5.4,科目全,可伽急 +6 ttH3f1oA6ace 2026-11-04 12/600 2026-11-06 16:10 by 5sJFDKp2kwuI
[硕博家园] 售SCI一区文章,我:8O5.5.1.O5.4,科目全,可伽急 +4 ttH3f1oA6ace 2026-11-04 11/550 2026-11-06 16:10 by 5sJFDKp2kwuI
[公派出国] 售SCI一区T0P文章,我:8.O.55.1.O54,科目全,可伽急 +5 kvewwGtKktqB 2026-11-04 14/700 2026-11-06 05:10 by qL1cU46YIdK0
[硕博家园] 售SCI一区T0P文章,我:8O.55.1.O.5.4,科目齐全,可+急 +6 kvewwGtKktqB 2026-11-04 16/800 2026-11-06 05:00 by qL1cU46YIdK0
[考博] 售一区SCI文章T0P,我:8O.551.O54,科目全,可十急 +4 ttH3f1oA6ace 2026-11-04 7/350 2026-11-06 02:13 by qL1cU46YIdK0
[考研] 售SCI一区T0P文章,我:8.O55.1.O.54,科目全,可十急 +4 ttH3f1oA6ace 2026-11-04 10/500 2026-11-06 02:04 by qL1cU46YIdK0
[硕博家园] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +3 ttH3f1oA6ace 2026-11-04 9/450 2026-11-06 02:02 by qL1cU46YIdK0
[硕博家园] 售SCI一区T0P文章,我:8.O55.1.O.54,科目全,可十急 +4 hNpp4Y2CGvSC 2026-11-04 12/600 2026-11-06 01:53 by qL1cU46YIdK0
信息提示
请填处理意见