24小时热门版块排行榜    

查看: 6867  |  回复: 2
【悬赏金币】回答本帖问题,作者n01096将赠送您 10 个金币
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

n01096

新虫 (正式写手)

[求助] matlab 并行计算中缓存一直增加,然后卡死,问题已解决

交代一下背景:
本人用服务器跑matlab程序,cpu10核,内存256G,程序用的m函数文件,调用函数的那种。我在A函数里调用B函数。B函数里有parfor循环。在parfor循环里,每次用完的那些变量我都及时赋成空值,[].  parfor循环结束后,将得到的变量通过assign返回A函数,也就是workspace,然后返回A函数。A函数里有个循环(循环变量为i),次数为6000,由于是用的龙格库塔迭代,A函数里不能用parfor并行计算。

当A循环里的次数比较小时,比如i<1000,运行效果还可以,,挺快的。
但是,我的系统是linux的,查看了linux系统的内存,发现缓存buffer、cache一直增加。。。基本每隔一会就增加几个G。。
随着循环的增加,内存占用越来越大。。。由最初的i=1的10G左右一直飙升到i=1000时的120G左右。最终,好像程序会在i=2000左右卡住,,不动。。。


PS:我在没有用并行计算时,也跑过,最终得到的数据量为8G左右,程序运行时的内存也就20G左右。。。

想问一下有没有大神知道这是啥原因呢,,求助

============================================
自己解决了。。。在调用并行程序之后,加一个clear functions,这样就可以清除并行程序里的进程及相关数据,要是不清除的话,并行程序里的进程会一直堆积在内存里。。。当然,考虑到每次清除内存的时间消耗,可以用外部循环的变量来判断,比如到了i=1000的时候再清理,当然,前提是i=1000的时候程序总的内存消化小于你的电脑可用内存。这个清除语句可以添加在函数A中。这样就可以使效率大大提高了。。。哈哈

希望对其他人有用
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

天崖cb

新虫 (著名写手)

引用回帖:
2楼: Originally posted by n01096 at 2015-08-25 11:40:40
问题已自行解决,把方法写出来了,希望对大家有用,,,

感谢楼主,非常有用
3楼2020-12-01 16:40:39
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 3 个回答

n01096

新虫 (正式写手)

问题已自行解决,把方法写出来了,希望对大家有用,,,
2楼2015-08-25 11:40:40
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
不应助 确定回帖应助 (注意:应助才可能被奖励,但不允许灌水,必须填写15个字符以上)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 希望今年自己国自然面上项目和老婆青年项目能中! +7 恐龙爸爸 2024-06-14 7/350 2024-06-16 14:48 by redfish105
[考博] 2025考博 +5 自强不息a?a 2024-06-15 7/350 2024-06-16 10:07 by wang333666
[找工作] 应届大龄土博教职选择,石河子大学和广西大学 10+4 茅山老道士 2024-06-10 33/1650 2024-06-16 08:36 by shl2112501
[考博] 34岁读博士晚吗 +26 emitdne 2024-06-13 26/1300 2024-06-16 07:16 by liyeqik
[教师之家] 关于2023的收入 +33 小龙虾2008 2024-06-10 34/1700 2024-06-15 23:01 by zeolitess
[基金申请] Nature 11日发文,中国著名学者们称造假迫不得已 +5 babu2015 2024-06-14 5/250 2024-06-15 20:40 by lc231001
[教师之家] 我们学院常年位居 各学院 倒数第二。专业撤销的话,在编者有什么补偿? +13 河西夜郎 2024-06-09 14/700 2024-06-15 19:44 by LittleBush
[基金申请] BO4的YQ答辩通知发布了吗? +6 博学笃行 2024-06-11 6/300 2024-06-15 16:04 by 悲催科研狗
[基金申请] 2024国社科通讯评审 +9 qsd10086 2024-06-13 14/700 2024-06-15 15:51 by thesuna
[论文投稿] 投稿时忘记修改一作 +7 gll123456 2024-06-13 11/550 2024-06-15 11:49 by gll123456
[基金申请] 博后基金,以往的结果点不开,怎么回事呢?最后一次机会了,两次都没中前面。 +7 kyukitu 2024-06-14 13/650 2024-06-15 06:46 by 我是王小帅
[论文投稿] 投了一篇4区的SCI,审稿人一个拒稿,一个小修,编辑给了大修。 +9 安稳22123 2024-06-13 10/500 2024-06-14 23:45 by jurkat.1640
[食品] 食品博士导师 +6 小李醒yy 2024-06-11 9/450 2024-06-14 23:37 by 小李醒yy
[基金申请] 化学会年会改成一年开一次了? +5 babu2015 2024-06-12 13/650 2024-06-14 10:46 by babu2015
[基金申请] 75批博后基金 +10 kyukitu 2024-06-13 13/650 2024-06-14 10:31 by kyukitu
[基金申请] 工材E10口函评结束了吗 10+3 我1的飞翔 2024-06-13 5/250 2024-06-14 06:35 by nono2009
[基金申请] 博士后面上项目状态还是专家评审吗 10+9 Thatcheremu 2024-06-13 55/2750 2024-06-13 21:23 by 乌合麒麟
[硕博家园] 科研求助 +5 杲www 2024-06-12 6/300 2024-06-13 16:16 by 姓李名明
[论文投稿] 摩擦磨损论文投稿 +3 jmysan 2024-06-12 3/150 2024-06-13 08:36 by 莱茵润色
[硕博家园] 申博 +3 悦悦小小鱼 2024-06-12 3/150 2024-06-12 15:11 by chen5805
信息提示
请填处理意见