24小时热门版块排行榜    

查看: 1008  |  回复: 16
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

小小坌

新虫 (正式写手)

[交流] matlab数据提取速度问题已有7人参与

情况是这样:从全国站点中提取某个变量日值数据,数据集是每个变量每个月一个txt文件,大小大概是8G,提取一遍一个站点6个变量要3个半小时,太慢了。。。大家有懂的可不可以给我提点建议

发自小木虫Android客户端
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

小小坌

新虫 (正式写手)

送红花一朵
引用回帖:
15楼: Originally posted by duhb655 at 2017-10-25 09:54:21
给你建议:我知道你说的情况,因为我处理过,一样的数据。编个程序把所有的数据读进去每个站点数据存为一个cell,全国的数据可用存成一个cell。存成mat格式就行,这样做完以后你想做啥怎么做都很快,意思就是一个数 ...

谢谢

发自小木虫Android客户端
17楼2017-10-25 15:22:00
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 17 个回答

小小坌

新虫 (正式写手)

2楼2017-10-19 19:32:05
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

somomo91

专家顾问 (职业作家)

★ ★ ★
小木虫: 金币+0.5, 给个红包,谢谢回帖
jjdg: 金币+2, 感谢参与 2017-10-20 08:02:39
好几个问题所在
1. 文件所在分区是 硬盘,还是固态硬盘,或者是网络,读取速度影响非常大,一般来说固态硬盘 400MB,硬盘 60-80MB,网络<10MB
2. 导入数字所用的函数,是 fscan 还是其他的,
3. 数据文件的 数据格式 也会影响读取和转换速度
4. 电脑的内存大小,如果小于 16GB 的话,那有非常大可能,MATLAB 没法利用 连续内存空间(不要和剩余内存空间混淆),这个时候系统会调用硬盘作为缓存,读取速度至少会下降一半

还有,你应该是顺序读取,如果多文件的话,可以考虑并行处理,

» 本帖已获得的红花(最新10朵)

3楼2017-10-19 22:11:25
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

ha0451

版主 (知名作家)

★ ★
小木虫: 金币+0.5, 给个红包,谢谢回帖
jjdg: 金币+1, 感谢参与 2017-10-20 08:03:25
网络数据下载用专门的软件,多线程并行,关键还受制于服务器端的网速,下载速度也就那样子了

发自小木虫Android客户端
不忘初心,努力前行!
4楼2017-10-19 22:24:57
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通表情 高级回复(可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[教师之家] 高校辞职,要求赔偿,这到底合不合理 +20 传动_海神 2024-06-23 28/1400 2024-06-24 19:49 by 传动_海神
[考博] 对象没有,还非常想读博,难以抉择 +18 pvrw0224 2024-06-23 40/2000 2024-06-24 19:22 by tjushede
[硕博家园] 怎么带研究生? +21 豆豆小小2 2024-06-20 23/1150 2024-06-24 13:39 by bluewindmill
[找工作] 高校两个offer选择 +23 cowox2021 2024-06-18 24/1200 2024-06-24 12:15 by 半生梦君
[基金申请] 能看出是否上会了吗 +9 articlefan 2024-06-23 11/550 2024-06-24 11:20 by articlefan
[催化] 求助原位红外 +3 jfdhj 2024-06-21 7/350 2024-06-24 10:52 by qvhm2609
[有机交流] 三颈瓶加热 5+4 wzjwx888 2024-06-20 4/200 2024-06-24 10:11 by w87437985
[公派出国] 博士csc联培会看重第一学历学校层次吗 +4 也就这样 2024-06-23 4/200 2024-06-24 08:18 by 晓目崇
[教师之家] 有没有今年的影响因子? +6 jurkat.1640 2024-06-22 8/400 2024-06-24 07:25 by HiRocLiN丶
[基金申请] b口yq上会情况 +5 XUAAAAA 2024-06-19 6/300 2024-06-24 01:13 by sunrise3148
[有机交流] 生成亚胺的反应怎么能进行完全 +3 1369836 2024-06-23 3/150 2024-06-23 18:44 by hwqMSE
[论文投稿] OSA期刊审稿逾期 +3 Thomas_Squid 2024-06-22 3/150 2024-06-23 15:20 by wspglt
[基金申请] 江南大学到瑞士招聘,称取消非升即走,改预聘+长聘 +24 babu2015 2024-06-18 29/1450 2024-06-22 16:29 by 风今25
[论文投稿] 水果保鲜投稿 5+4 zhengjiandong 2024-06-19 6/300 2024-06-21 22:27 by 宋小爷
[基金申请] 听大佬说今年信息口本子数量大幅增加? +8 wutzxt 2024-06-21 9/450 2024-06-21 19:58 by wutzxt
[论文投稿] ACS 编辑的意见 10+3 哈哈妞1993 2024-06-20 3/150 2024-06-21 17:06 by 投个论文
[论文投稿] 审稿 +8 香瓜木香 2024-06-19 9/450 2024-06-21 15:51 by season7865
[有机交流] 想要用氢化钠拔掉吲哚N上的氢取代酰氯 50+3 光敏剂 2024-06-19 4/200 2024-06-20 18:41 by HF111001
[论文投稿] 投稿求助 6+3 小短腿安琪拉 2024-06-19 4/200 2024-06-20 17:40 by 不一样烟火12345
[海外博后] 墨尔本大学博后offer要不要接 +3 kyxblmm 2024-06-18 3/150 2024-06-19 22:39 by blake1111
信息提示
请填处理意见