应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 计算模拟区 » 程序语言 » 其它 » 并行计算没有输出？怎么回事
101/1返回列表
查看: 2295  |  回复: 16
查看全部回帖 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看
当前只显示满足指定条件的回帖，点击这里查看本话题的所有回帖

田山东

捐助贵宾 (著名写手)

[求助] 并行计算没有输出？怎么回事

家好。感谢论坛上的各位好友对我的帮助。

昨天并行运算弄好了，速度确实快了很多，以前要30小时算完的程序，现在10小时左右就可以了。但是计算完成之后，我发现输出文件没有数据。这是怎么回事呢？

串行 计算的时候我都是把输出输出到一个文件下，改成并行计算了，语句没有修改，是不是并行情况下要对输出语句修改一下啊？

  

谢谢！
回复此楼

» 猜你喜欢

» 本主题相关价值贴推荐，对您同样有帮助:
everythinghasitsseason.enjoyyourlife.
1楼 2012-08-28 08:13:43
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

田山东

捐助贵宾 (著名写手)
很奇怪啊，一个小的体系就能把结果输出到文件中，大的体系反而不行了呢。我按照你给我的思路再摸索下。谢谢了
赞一下 回复此楼
everythinghasitsseason.enjoyyourlife.
3楼2012-08-28 17:02:31
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

田山东

捐助贵宾 (著名写手)
引用回帖:
2楼: Originally posted by libralibra at 2012-08-28 15:36:16
并行之前将数据broadcast到每个core,分别计算
你要写文件之前,需要将数据重新collect到同一个core来写文件,因为每个core的运算不可能同时结束,所以需要synchronization
如果涉及文件读写,基本框架是:

master读 ...

可以给个实例吗？或者推荐一本书也行啊、谢谢
赞一下 回复此楼
everythinghasitsseason.enjoyyourlife.
4楼2012-08-28 17:03:17
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

田山东

捐助贵宾 (著名写手)
引用回帖:
5楼: Originally posted by libralibra at 2012-08-28 17:25:17
4年前搞过的MPI,早都不知道哪儿去了
可以看看这个c的例子,很简单,但是基本的步骤都有

http://hi.baidu.com/xukeke2600/blog/item/dec0d512a15e4a47f2de32fe.html...

很奇怪，小体系并行运算就可以得到结果，大体系反而不行了。纠结！！还是串行吧，尽管并行运算可以提高速度很多
赞一下 回复此楼
everythinghasitsseason.enjoyyourlife.
6楼2012-08-29 08:00:42
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

田山东

捐助贵宾 (著名写手)
引用回帖:
7楼: Originally posted by libralibra at 2012-08-29 16:52:34
那问题应该出在大体系的代码流程,仔细debug一下...

大体系和小体系代码相同的，只是修改了下参数，比如小体系N=101，大体系N=1201，就这点差距，其他都没动。真不知道哪里出问题了。很奇怪的问题
赞一下 回复此楼
everythinghasitsseason.enjoyyourlife.
8楼2012-08-29 17:11:28
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

田山东

捐助贵宾 (著名写手)
引用回帖:
9楼: Originally posted by libralibra at 2012-08-29 17:52:37
在中间部分加一些同步,print出数据看看到底在哪里出了问题
大体系有没有内存溢出或者其他问题等等,debug只能一点点试

这很有可能。记得以前在系服务器算数据的时候，大体系总要在编译前加个ulimit -s unlimited 防止堆饯溢出。但是现在我用的是老板买的服务器，内存120G，串行时候都没出现堆饯溢出的问题，单核运算不溢出，难道并行运算会溢出吗？按道理讲，并行运算每个核承受的容量应该是串行的1/n吧？n个核并行运算的话，那还能溢出吗？
赞一下 回复此楼
everythinghasitsseason.enjoyyourlife.
10楼2012-08-29 17:59:08
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

田山东

捐助贵宾 (著名写手)
引用回帖:
5楼: Originally posted by libralibra at 2012-08-28 17:25:17
4年前搞过的MPI,早都不知道哪儿去了
可以看看这个c的例子,很简单,但是基本的步骤都有

http://hi.baidu.com/xukeke2600/blog/item/dec0d512a15e4a47f2de32fe.html...

问题找到了。我的程序串行的时候最大内存占到48%，并行运算，8个节点，我发现每个节点占内存占到了12%多，妈呀，内存占满了，然后再继续运算的话就退出了。
很奇怪，串行运算内存48%，8个节点同时运算的话每个节点占内存应该在8%吧？怎么会达到12%呢？
赞一下 回复此楼
everythinghasitsseason.enjoyyourlife.
11楼2012-08-29 19:49:49
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

田山东

捐助贵宾 (著名写手)
引用回帖:
12楼: Originally posted by libralibra at 2012-08-29 19:51:36
可能跟你分发数据的代码有关系

我想应该是这样的。我的代码没有进行分发操作，直接在原先串行的基础上加了几个并行需要的调用命令。
如果进行分发代码的话还要根据你给我的那个例子还有你前面讲的进行吗？
赞一下 回复此楼
everythinghasitsseason.enjoyyourlife.
13楼2012-08-29 20:43:24
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

田山东

捐助贵宾 (著名写手)
引用回帖:
14楼: Originally posted by libralibra at 2012-08-31 18:22:53
MPI并行的大框架就是

读数据
分发数据 (前面2不不是必须,也可以根据core id号去读取自己需要的那部分数据,反正就是每个core只拿到自己运算需要的数据)
然后运算(如果运算过程有不能并行的部分,需要gather到一 ...

我发现我的问题是这样的：串行运行的时候，单个程序会产生一个很大的数组，大约60G，服务器总内存只有120G，所以一个程序产生的数组占内存占到了49%左右，我这个服务器最多只能运行两个程序。并行运算之后，比如我分配6个节点，我会发现很快每个节点占内存达到20%多，很奇怪，这样的话加在一起总数据量比原来大很多啊。
是你说的这个原因吗？是数据分配不合理的事吗？
赞一下 回复此楼
everythinghasitsseason.enjoyyourlife.
15楼2012-09-01 21:20:49
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 田山东 的主题更新
101/1返回列表
普通表情 龙 兔 虎 猫
信息提示
关闭
请填处理意见
关闭