24小时热门版块排行榜    

查看: 1989  |  回复: 9

460536813

新虫 (初入文坛)

[求助] MPI文件分发

请问,我在MPI环境下,想把某个文件,比如说计算目标参数文件,分发到各个节点,用什么方法比较好。

如果用my_id =0的节点读文件,my_id!=0节点写文件,感觉有点搓。。。MPI里面有没有文件广播分发的功能?
回复此楼

» 猜你喜欢

» 本主题相关价值贴推荐,对您同样有帮助:

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

smart0193

木虫 (小有名气)

【答案】应助回帖


感谢参与,应助指数 +1
jjdg: 金币+1, 感谢应助 2012-03-23 02:58:07
我记得MPI-2.0里,有专门进行文件并行读写的函数,你看看他的手册,应该有介绍。好久没用MPI了。
一个奋斗在三流高校的教育界民工
2楼2012-03-22 19:20:40
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

lurencyj

木虫 (著名写手)

【答案】应助回帖


感谢参与,应助指数 +1
jjdg: 金币+1, 感谢应助 2012-03-23 02:58:15
余泽成: 专家考核 2012-03-30 14:06:43
不知道你说的分发是什么意思,我只知道变量是可以广播的。

对于读取文件内容,我一般有两种办法,一种id=0的cpu读取,然后广播;一种是全部cpu都读取。

对于写文件,那只能让一个CPU写,或者各自写进不同名字的文件,然后,手动整合。
很女子很弓虽大
3楼2012-03-22 20:16:05
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

460536813

新虫 (初入文坛)

引用回帖:
2楼: Originally posted by smart0193 at 2012-03-22 19:20:40:
我记得MPI-2.0里,有专门进行文件并行读写的函数,你看看他的手册,应该有介绍。好久没用MPI了。

不想读写 能分发吗
4楼2012-03-28 12:44:43
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

lurencyj

木虫 (著名写手)

【答案】应助回帖

★ ★
jjdg: 金币+1, 感谢参与 2012-03-29 01:00:56
余泽成: 专家考核 2012-03-30 14:06:49
460536813: 金币+1, ★★★很有帮助, 有理 考虑其他东西 不用MPI分发了 2012-04-27 12:58:11
除非有新的接口函数被mpi发布出来,否则没有。


我想,一般也不会发布这样的函数,原因很简单,因为那样的函数死板,没有直接自己分摊来的有效。
很女子很弓虽大
5楼2012-03-28 15:48:15
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

libralibra

至尊木虫 (著名写手)

骠骑将军

【答案】应助回帖

★ ★ ★
感谢参与,应助指数 +1
余泽成: 金币+3, 专家考核, 谢谢参与应助! 2012-03-30 14:07:03
数据并行,你得先读进来,然后分发不同的部分给不同的cpu
你所谓的文件分发是什么,复制多份文件给不同的cpu?那还不如读进来数据,然后分发数据
因为只要有一个cpu打开文件,文件就被锁住了,直到释放资源,其他cpu才会继续读取,
mpi程序要注意的就是同步问题,你这个需求不实际啊
只能:

1.master读,然后分发数据到各个unit,计算完后collect数据,写结果;
2.每个unit都copy一份数据,根据当前unit的id计算offset,然后同时读取各自数据计算,运算结束自己写自己的文件,最后master再copy所有文件,合并.

其实2的方案,所有unit读写一个文件也可以,可是得不断测试文件读写状态,当文件空闲时才能读写,跟1是一样的,而且逻辑还不如1清楚.
matlab/VB/python/c++/Java写程序请发QQ邮件:790404545@qq.com
6楼2012-03-29 03:51:21
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

460536813

新虫 (初入文坛)

引用回帖:
6楼: Originally posted by libralibra at 2012-03-29 03:51:21:
数据并行,你得先读进来,然后分发不同的部分给不同的cpu
你所谓的文件分发是什么,复制多份文件给不同的cpu?那还不如读进来数据,然后分发数据
因为只要有一个cpu打开文件,文件就被锁住了,直到释放资源,其他cpu才会 ...

你说的不就是我题设的那种方法么?
文件分发  保证每个节点都收到文件就可以  要同步干嘛
不要把问题搞复杂~~
7楼2012-04-27 12:56:39
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

460536813

新虫 (初入文坛)

引用回帖:
3楼: Originally posted by lurencyj at 2012-03-22 20:16:05:
不知道你说的分发是什么意思,我只知道变量是可以广播的。

对于读取文件内容,我一般有两种办法,一种id=0的cpu读取,然后广播;一种是全部cpu都读取。

对于写文件,那只能让一个CPU写,或者各自写进不同名 ...

广播 我知道的   就是分发一下么  不需要同步什么的
8楼2012-04-27 12:57:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

libralibra

至尊木虫 (著名写手)

骠骑将军

引用回帖:
8楼: Originally posted by 460536813 at 2012-04-27 12:57:19:
广播 我知道的   就是分发一下么  不需要同步什么的

在collect之前最好同步一下,保证能收到所有的数据
matlab/VB/python/c++/Java写程序请发QQ邮件:790404545@qq.com
9楼2012-04-28 17:28:23
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

wangjiang381

铜虫 (初入文坛)

10楼2012-11-08 21:08:49
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 460536813 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[博后之家] 售SCI一区文章,我:8O5.5.1.O5.4,科目全,可伽急 +4 cu9Nq1xK233Z 2026-08-03 9/450 2026-08-04 09:17 by v1TJC4qJauAB
[教师之家] 售SCI一区文章,我:8.O.551.O.5.4,科目全,可伽急 +5 cu9Nq1xK233Z 2026-08-03 10/500 2026-08-04 09:15 by v1TJC4qJauAB
[基金申请] 系统今天又提示维护了,估计离放榜不远了 +12 winnerche 2026-07-29 16/800 2026-08-04 08:18 by Equinoxhua
[有机交流] 一个有机合成实验室都需要哪些设备? 50+3 kf2781974 2026-07-31 10/500 2026-08-04 08:05 by 88817753
[教师之家] 售SCI一区文章,我:8O5.5.1.O5.4,科目全,可伽急 +3 jRl3mE6ddZGq 2026-08-03 9/450 2026-08-04 07:46 by k7OM8YghWbkC
[找工作] 售SCI一区文章,我:8.O.551.O.5.4,科目全,可伽急 +3 cu9Nq1xK233Z 2026-08-03 9/450 2026-08-04 07:37 by k7OM8YghWbkC
[硕博家园] 售SCI一区T0P文章,我:8.O.55.1.O.54,科目齐全,可+急 +4 cu9Nq1xK233Z 2026-08-03 13/650 2026-08-04 07:30 by k7OM8YghWbkC
[教师之家] 基础研究怎么拉横向,学校到款任务越来越多,难以完成 拉横向,都有哪些途径啊 +9 锦衣卫寒战 2026-07-28 13/650 2026-08-04 07:21 by Ermito
[考博] 售SCI一区T0P文章,我:8.O55.1.O.54,科目全,可十急 +3 cu9Nq1xK233Z 2026-08-03 6/300 2026-08-04 06:10 by k7OM8YghWbkC
[硕博家园] 售SCI一区T0P文章,我:8.O.55.1.O.54,科目齐全,可+急 +3 jRl3mE6ddZGq 2026-08-03 6/300 2026-08-04 04:47 by k7OM8YghWbkC
[公派出国] 售SCI一区文章,我:8.O.551.O.5.4,科目全,可伽急 +3 cu9Nq1xK233Z 2026-08-03 7/350 2026-08-04 04:46 by k7OM8YghWbkC
[考研] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +3 cu9Nq1xK233Z 2026-08-03 8/400 2026-08-04 03:21 by k7OM8YghWbkC
[基金申请] 什么时候能放榜呀? +3 Jacob678 2026-08-03 3/150 2026-08-03 16:14 by gltch
[高分子] UV压敏胶开发 +3 ichall 2026-07-30 5/250 2026-08-03 14:40 by Sunrisepay
[基金申请] 面上提前没消息,有中的吗 +14 archvillain 2026-08-02 16/800 2026-08-03 12:23 by fuweiguochen
[基金申请] 面上再次挂了,太难了,躺也躺不了,倦也卷不过,小学校之殇! +19 低垂的野花 2026-07-31 25/1250 2026-08-03 09:25 by gy116024
[基金申请] 2026年国自然面上资助率 +16 布布和一二 2026-07-30 22/1100 2026-08-03 09:20 by gy116024
[基金申请] 微信指数没变化,科研之友没阅读 +15 wangze12014 2026-07-28 19/950 2026-08-02 20:05 by 蔡棒棒菂
[考博] 2027年申博 50+3 射雕英雄胜 2026-07-30 3/150 2026-08-02 09:36 by lfy8008
[高分子] HXDI做水性聚氨酯乳液,是不是特别容易出渣 15+3 yuyusuv 2026-07-29 3/150 2026-07-31 09:21 by huizingga
信息提示
请填处理意见