24小时热门版块排行榜    

查看: 992  |  回复: 16

小小坌

新虫 (正式写手)

[交流] matlab数据提取速度问题已有7人参与

情况是这样:从全国站点中提取某个变量日值数据,数据集是每个变量每个月一个txt文件,大小大概是8G,提取一遍一个站点6个变量要3个半小时,太慢了。。。大家有懂的可不可以给我提点建议

发自小木虫Android客户端
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

小小坌

新虫 (正式写手)

2楼2017-10-19 19:32:05
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

somomo91

专家顾问 (职业作家)

★ ★ ★
小木虫: 金币+0.5, 给个红包,谢谢回帖
jjdg: 金币+2, 感谢参与 2017-10-20 08:02:39
好几个问题所在
1. 文件所在分区是 硬盘,还是固态硬盘,或者是网络,读取速度影响非常大,一般来说固态硬盘 400MB,硬盘 60-80MB,网络<10MB
2. 导入数字所用的函数,是 fscan 还是其他的,
3. 数据文件的 数据格式 也会影响读取和转换速度
4. 电脑的内存大小,如果小于 16GB 的话,那有非常大可能,MATLAB 没法利用 连续内存空间(不要和剩余内存空间混淆),这个时候系统会调用硬盘作为缓存,读取速度至少会下降一半

还有,你应该是顺序读取,如果多文件的话,可以考虑并行处理,

» 本帖已获得的红花(最新10朵)

3楼2017-10-19 22:11:25
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

ha0451

版主 (知名作家)

★ ★
小木虫: 金币+0.5, 给个红包,谢谢回帖
jjdg: 金币+1, 感谢参与 2017-10-20 08:03:25
网络数据下载用专门的软件,多线程并行,关键还受制于服务器端的网速,下载速度也就那样子了

发自小木虫Android客户端
不忘初心,努力前行!
4楼2017-10-19 22:24:57
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

mygt_hit

专家顾问 (职业作家)

★ ★
小木虫: 金币+0.5, 给个红包,谢谢回帖
jjdg: 金币+1, 感谢参与 2017-10-20 08:03:56
不行就换其他语言吧,比如python

发自小木虫Android客户端
知其然,知其所以然。
5楼2017-10-20 00:14:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

匿名

用户注销 (职业作家)

Matlab专家

★ ★
小木虫: 金币+0.5, 给个红包,谢谢回帖
jjdg: 金币+1, 感谢参与 2017-10-20 08:04:19
本帖仅楼主可见

» 本帖已获得的红花(最新10朵)

6楼2017-10-20 01:38:04
已阅   申请程序强帖   回复此楼   编辑   查看我的主页

jjdg

版主 (知名作家)

优秀版主

努力学习!以正当途径!获得需要的知识!
7楼2017-10-20 08:01:30
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

小小坌

新虫 (正式写手)

引用回帖:
4楼: Originally posted by ha0451 at 2017-10-19 22:24:57
网络数据下载用专门的软件,多线程并行,关键还受制于服务器端的网速,下载速度也就那样子了

我不是下载出问题,提取过程太慢太卡而已

发自小木虫Android客户端
8楼2017-10-20 09:06:12
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

小小坌

新虫 (正式写手)

送红花一朵
引用回帖:
3楼: Originally posted by somomo91 at 2017-10-19 22:11:25
好几个问题所在
1. 文件所在分区是 硬盘,还是固态硬盘,或者是网络,读取速度影响非常大,一般来说固态硬盘 400MB,硬盘 60-80MB,网络&lt;10MB
2. 导入数字所用的函数,是 fscan 还是其他的,
3. 数据文件 ...

这么复杂

发自小木虫Android客户端
9楼2017-10-20 09:27:11
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

小小坌

新虫 (正式写手)

送红花一朵
引用回帖:
6楼: Originally posted by yanze at 2017-10-20 01:38:04
你不会用的循环吧?那样还不如用c语言写个脚本。Matlab要用向量语句,还可以加入索引文件。你的问题太抽象无法给出具体建议

哦哦,问题太具体不便放上来

发自小木虫Android客户端
10楼2017-10-20 09:28:03
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 小小坌 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 博后基金,博管会会提前知道消息吗? +4 yuyiang 2024-06-13 4/200 2024-06-16 11:40 by yangyuzhong4
[博后之家] 山东大学(青岛)“天然药物生物智造”课题组 招聘“博士后”(年薪20.4-55.6万元) +5 第二种态度 2024-06-11 8/400 2024-06-16 10:14 by 午睡未进行
[考博] 希望能25博士入学,可提前一年做科研助理 +5 干饭版小太阳 2024-06-09 9/450 2024-06-16 09:56 by wanghaiyu
[教师之家] 每次骚扰女学生的都是院系领导,而不是普通教师,小编们要注意措辞正确 +8 zju2000 2024-06-15 10/500 2024-06-16 09:22 by Quakerbird
[有机交流] 车间生产,真空度很高,温度很高,但减压蒸馏速度很慢。 10+12 召唤鬼泣lL 2024-06-13 36/1800 2024-06-16 09:20 by ddc805
[找工作] 杭电、天津科技、青农和宁波工程学院如何选? +10 味道很好啊 2024-06-13 20/1000 2024-06-16 07:43 by 味道很好啊
[找工作] 江西双非一本和四川双一流高校如何选择? 5+7 寒山敲钟 2024-06-12 23/1150 2024-06-16 06:52 by puterde
[论文投稿] 投稿被一个审稿人恶意评审了怎么样? +5 1chen 2024-06-14 7/350 2024-06-15 23:15 by xy66xy
[基金申请] 面青地会评时间 +5 tanjydd 2024-06-15 5/250 2024-06-15 23:08 by andywei1028
[基金申请] 博后面上今天有bug可以看到是否资助? +20 lyfbangong 2024-06-12 31/1550 2024-06-15 21:18 by since—2010
[教师之家] 我们学院常年位居 各学院 倒数第二。专业撤销的话,在编者有什么补偿? +13 河西夜郎 2024-06-09 14/700 2024-06-15 19:44 by LittleBush
[基金申请] 2024国社科通讯评审 +9 qsd10086 2024-06-13 14/700 2024-06-15 15:51 by thesuna
[基金申请] 有没有机械的前辈分享一下评上海优都是什么成果啊 +7 wulala800 2024-06-10 7/350 2024-06-15 09:33 by 晓目崇
[食品] 食品博士导师 +6 小李醒yy 2024-06-11 9/450 2024-06-14 23:37 by 小李醒yy
[基金申请] 面上基金有一个(两个)C是不是就没戏了.... 5+3 zzzm116 2024-06-13 17/850 2024-06-14 22:26 by lzt8076
[基金申请] 工材E口JQ有消息了吗 +4 babyduck 2024-06-11 4/200 2024-06-14 17:23 by firepick
[硕博家园] 科研求助 +5 杲www 2024-06-12 6/300 2024-06-13 16:16 by 姓李名明
[论文投稿] 摩擦磨损论文投稿 +3 jmysan 2024-06-12 3/150 2024-06-13 08:36 by 莱茵润色
[硕博家园] 求助 +6 LYWwrz 2024-06-09 9/450 2024-06-11 13:12 by powerhours
[教师之家] 公办双非,学生论文升学就业都不行。一本大学的论文升学就业没问题吧? +5 河西夜郎 2024-06-09 5/250 2024-06-10 17:59 by yyallen2003
信息提示
请填处理意见