24小时热门版块排行榜    

查看: 1002  |  回复: 16

小小坌

新虫 (正式写手)

[交流] matlab数据提取速度问题已有7人参与

情况是这样:从全国站点中提取某个变量日值数据,数据集是每个变量每个月一个txt文件,大小大概是8G,提取一遍一个站点6个变量要3个半小时,太慢了。。。大家有懂的可不可以给我提点建议

发自小木虫Android客户端
回复此楼

» 猜你喜欢

» 本主题相关价值贴推荐,对您同样有帮助:

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

小小坌

新虫 (正式写手)

2楼2017-10-19 19:32:05
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

somomo91

专家顾问 (职业作家)

★ ★ ★
小木虫: 金币+0.5, 给个红包,谢谢回帖
jjdg: 金币+2, 感谢参与 2017-10-20 08:02:39
好几个问题所在
1. 文件所在分区是 硬盘,还是固态硬盘,或者是网络,读取速度影响非常大,一般来说固态硬盘 400MB,硬盘 60-80MB,网络<10MB
2. 导入数字所用的函数,是 fscan 还是其他的,
3. 数据文件的 数据格式 也会影响读取和转换速度
4. 电脑的内存大小,如果小于 16GB 的话,那有非常大可能,MATLAB 没法利用 连续内存空间(不要和剩余内存空间混淆),这个时候系统会调用硬盘作为缓存,读取速度至少会下降一半

还有,你应该是顺序读取,如果多文件的话,可以考虑并行处理,

» 本帖已获得的红花(最新10朵)

3楼2017-10-19 22:11:25
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

ha0451

版主 (知名作家)

★ ★
小木虫: 金币+0.5, 给个红包,谢谢回帖
jjdg: 金币+1, 感谢参与 2017-10-20 08:03:25
网络数据下载用专门的软件,多线程并行,关键还受制于服务器端的网速,下载速度也就那样子了

发自小木虫Android客户端
不忘初心,努力前行!
4楼2017-10-19 22:24:57
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

mygt_hit

专家顾问 (职业作家)

★ ★
小木虫: 金币+0.5, 给个红包,谢谢回帖
jjdg: 金币+1, 感谢参与 2017-10-20 08:03:56
不行就换其他语言吧,比如python

发自小木虫Android客户端
知其然,知其所以然。
5楼2017-10-20 00:14:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

匿名

用户注销 (职业作家)

Matlab专家

★ ★
小木虫: 金币+0.5, 给个红包,谢谢回帖
jjdg: 金币+1, 感谢参与 2017-10-20 08:04:19
本帖仅楼主可见

» 本帖已获得的红花(最新10朵)

6楼2017-10-20 01:38:04
已阅   申请程序强帖   回复此楼   编辑   查看我的主页

jjdg

版主 (知名作家)

优秀版主

努力学习!以正当途径!获得需要的知识!
7楼2017-10-20 08:01:30
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

小小坌

新虫 (正式写手)

引用回帖:
4楼: Originally posted by ha0451 at 2017-10-19 22:24:57
网络数据下载用专门的软件,多线程并行,关键还受制于服务器端的网速,下载速度也就那样子了

我不是下载出问题,提取过程太慢太卡而已

发自小木虫Android客户端
8楼2017-10-20 09:06:12
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

小小坌

新虫 (正式写手)

送红花一朵
引用回帖:
3楼: Originally posted by somomo91 at 2017-10-19 22:11:25
好几个问题所在
1. 文件所在分区是 硬盘,还是固态硬盘,或者是网络,读取速度影响非常大,一般来说固态硬盘 400MB,硬盘 60-80MB,网络&lt;10MB
2. 导入数字所用的函数,是 fscan 还是其他的,
3. 数据文件 ...

这么复杂

发自小木虫Android客户端
9楼2017-10-20 09:27:11
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

小小坌

新虫 (正式写手)

送红花一朵
引用回帖:
6楼: Originally posted by yanze at 2017-10-20 01:38:04
你不会用的循环吧?那样还不如用c语言写个脚本。Matlab要用向量语句,还可以加入索引文件。你的问题太抽象无法给出具体建议

哦哦,问题太具体不便放上来

发自小木虫Android客户端
10楼2017-10-20 09:28:03
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 小小坌 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 工材口青年基金上会可能性 +7 今晚推荐22 2024-06-19 9/450 2024-06-20 09:39 by falldwon
[考博] 2025年博士申请,可先做科研助理 +3 limit888 2024-06-18 6/300 2024-06-20 02:43 by limit888
[硕博家园] 豫北虫友互识 +10 xuhongli903 2024-06-18 11/550 2024-06-20 00:25 by xuhongli903
[文学芳草园] 累并快乐着 +20 MYHLD521 2024-06-14 20/1000 2024-06-19 23:04 by tentoone
[基金申请] F口信息学部拿面上,大概需要什么样的成果 +7 _奋黎_ 2024-06-16 18/900 2024-06-19 20:02 by _奋黎_
[论文投稿] 审稿 +5 香瓜木香 2024-06-19 6/300 2024-06-19 17:44 by xli1984
[访问学者] 国家公派访问学者申请结果出了吗? +4 65syn 2024-06-13 4/200 2024-06-19 16:40 by 海洋之心168
[教师之家] 试用期辞职 +9 ZHONGWU_U 2024-06-18 14/700 2024-06-19 12:36 by ZHONGWU_U
[论文投稿] ACS AMI 返回审稿意见,一个大修,两个据稿,编辑给的修改重投 +5 智商已更新 2024-06-19 5/250 2024-06-19 12:35 by nono2009
[精细化工] 试剂价格 +4 旭必上岸 2024-06-17 4/200 2024-06-18 23:58 by 又幂青松顶
[找工作] 初始合伙人来啦!(生物试剂耗材标准品) +14 欢快的小科研人 2024-06-15 25/1250 2024-06-18 20:35 by 小飞来虫
[教师之家] 请问事业编制和年薪制冲突吗? +12 ZHONGWU_U 2024-06-14 12/600 2024-06-18 19:31 by fangyl2005
[高分子] 寻找聚酯反应釜 +3 茕茕恭煮 2024-06-15 6/300 2024-06-18 14:15 by 茕茕恭煮
[基金申请] 面青地会评时间 +8 tanjydd 2024-06-15 8/400 2024-06-17 17:08 by 小龙虾2008
[基金申请] 博后基金,博管会会提前知道消息吗? +4 yuyiang 2024-06-13 4/200 2024-06-16 11:40 by yangyuzhong4
[基金申请] 博士后创新人才支持计划公示 +9 aishida144 2024-06-14 15/750 2024-06-16 09:52 by msjy
[论文投稿] 投稿被一个审稿人恶意评审了怎么样? +5 1chen 2024-06-14 7/350 2024-06-15 23:15 by xy66xy
[基金申请] 博后基金,以往的结果点不开,怎么回事呢?最后一次机会了,两次都没中前面。 +7 kyukitu 2024-06-14 13/650 2024-06-15 06:46 by 我是王小帅
[基金申请] 博士后基金需要结题吗? +8 zhouchuck 2024-06-13 8/400 2024-06-14 17:27 by liuyupu132
[基金申请] 工材E10口函评结束了吗 10+3 我1的飞翔 2024-06-13 5/250 2024-06-14 06:35 by nono2009
信息提示
请填处理意见