24小时热门版块排行榜    

查看: 6870  |  回复: 2
【悬赏金币】回答本帖问题,作者n01096将赠送您 10 个金币

n01096

新虫 (正式写手)

[求助] matlab 并行计算中缓存一直增加,然后卡死,问题已解决

交代一下背景:
本人用服务器跑matlab程序,cpu10核,内存256G,程序用的m函数文件,调用函数的那种。我在A函数里调用B函数。B函数里有parfor循环。在parfor循环里,每次用完的那些变量我都及时赋成空值,[].  parfor循环结束后,将得到的变量通过assign返回A函数,也就是workspace,然后返回A函数。A函数里有个循环(循环变量为i),次数为6000,由于是用的龙格库塔迭代,A函数里不能用parfor并行计算。

当A循环里的次数比较小时,比如i<1000,运行效果还可以,,挺快的。
但是,我的系统是linux的,查看了linux系统的内存,发现缓存buffer、cache一直增加。。。基本每隔一会就增加几个G。。
随着循环的增加,内存占用越来越大。。。由最初的i=1的10G左右一直飙升到i=1000时的120G左右。最终,好像程序会在i=2000左右卡住,,不动。。。


PS:我在没有用并行计算时,也跑过,最终得到的数据量为8G左右,程序运行时的内存也就20G左右。。。

想问一下有没有大神知道这是啥原因呢,,求助

============================================
自己解决了。。。在调用并行程序之后,加一个clear functions,这样就可以清除并行程序里的进程及相关数据,要是不清除的话,并行程序里的进程会一直堆积在内存里。。。当然,考虑到每次清除内存的时间消耗,可以用外部循环的变量来判断,比如到了i=1000的时候再清理,当然,前提是i=1000的时候程序总的内存消化小于你的电脑可用内存。这个清除语句可以添加在函数A中。这样就可以使效率大大提高了。。。哈哈

希望对其他人有用
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

n01096

新虫 (正式写手)

问题已自行解决,把方法写出来了,希望对大家有用,,,
2楼2015-08-25 11:40:40
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

天崖cb

新虫 (著名写手)

引用回帖:
2楼: Originally posted by n01096 at 2015-08-25 11:40:40
问题已自行解决,把方法写出来了,希望对大家有用,,,

感谢楼主,非常有用
3楼2020-12-01 16:40:39
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 n01096 的主题更新
不应助 确定回帖应助 (注意:应助才可能被奖励,但不允许灌水,必须填写15个字符以上)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[有机交流] 求助 10+5 脂质纳米粒 2024-06-20 6/300 2024-06-20 17:16 by czyzsu
[教师之家] 试用期辞职 +10 ZHONGWU_U 2024-06-18 17/850 2024-06-20 17:07 by ZHONGWU_U
[考博] 一名额难求啊 +4 pinbo拼搏 2024-06-19 4/200 2024-06-20 16:25 by yueyueyue@
[论文投稿] 投稿求助 +4 平凡的日子 2024-06-19 5/250 2024-06-20 16:24 by yueyueyue@
[有机交流] 想要用氢化钠拔掉吲哚N上的氢取代酰氯 50+3 光敏剂 2024-06-19 3/150 2024-06-20 16:06 by 2461777831
[找工作] 药学硕士找不到工作,打算去做科研助理了 +10 pom戴墨镜 2024-06-14 23/1150 2024-06-20 15:26 by ase123456
[文学芳草园] 累并快乐着 +21 MYHLD521 2024-06-14 21/1050 2024-06-20 13:34 by 1429524838
[考博] 关于读博感觉自己很抓马 +9 小九月 2024-06-19 12/600 2024-06-20 11:06 by SCITOPPP
[催化] 镍负载氧化铝的保存问题 8+3 lwn0130 2024-06-15 6/300 2024-06-20 09:00 by lwn0130
[论文投稿] 审稿 +5 香瓜木香 2024-06-19 6/300 2024-06-19 17:44 by xli1984
[基金申请] Nature 11日发文,中国著名学者们称造假迫不得已 +8 babu2015 2024-06-14 8/400 2024-06-19 15:25 by 风今25
[硕博家园] 关于硕博连读的一些疑问? +8 Lwenter 2024-06-14 10/500 2024-06-19 10:00 by qingdao001
[基金申请] F口401需要啥文章水平 +3 lhjr123 2024-06-16 7/350 2024-06-18 16:05 by hon920603
[高分子] 烧瓶内合成聚酯 +3 大帝国乐 2024-06-17 7/350 2024-06-18 11:10 by 大帝国乐
[有机交流] 求教最后一步问题出在哪 20+3 苏州浩恒 2024-06-15 4/200 2024-06-18 08:33 by like_2005
[论文投稿] 论文已接收,但发现修改稿传的是旧版该怎么办? +3 zsq54321 2024-06-15 6/300 2024-06-17 19:45 by wjykycg
[论文投稿] 二审返修送审10天了,原来一审的3个审稿人只有2个接受了审稿,会邀请新审稿人么? 50+3 huanpo116 2024-06-15 5/250 2024-06-16 10:27 by bobvan
[基金申请] 博士后创新人才支持计划公示 +9 aishida144 2024-06-14 15/750 2024-06-16 09:52 by msjy
[论文投稿] 投稿被一个审稿人恶意评审了怎么样? +5 1chen 2024-06-14 7/350 2024-06-15 23:15 by xy66xy
[基金申请] 博后基金,以往的结果点不开,怎么回事呢?最后一次机会了,两次都没中前面。 +7 kyukitu 2024-06-14 13/650 2024-06-15 06:46 by 我是王小帅
信息提示
请填处理意见