24小时热门版块排行榜    

查看: 2166  |  回复: 15

ghlzt

新虫 (初入文坛)

[交流] MATLAB 存储10个G 以上数组怎么办? 已有15人参与

我现在有三个MAT文件,三个里面分别存放着具有相同行的数组,大小分别有2G,4G,5G。 我现在想把这三个MAT文件里面的数组合并成一个新的数组,那么这个数组大小应该就有11个G了,存储到一个新的MAT文件中,但是如果load每一个MAT文件的话,电脑内存直接卡机了。怎么处理呢?另外请假一个问题,虚拟内存有什么用呢?我这个好像虚拟内存挺大的,虚拟内存里面可以存储什么这么大的一个数组吗?
这个是电脑内存
memory
Maximum possible array:        9934 MB (1.042e+10 bytes) *
Memory available for all arrays:        9934 MB (1.042e+10 bytes) *
Memory used by MATLAB:         880 MB (9.230e+08 bytes)
Physical Memory (RAM):       12205 MB (1.280e+10 bytes)
虚拟内存
>> feature('memstats')
    Physical Memory (RAM):
        In Use:                             3280 MB (   cd02b000)
        Free:                               8924 MB (  22dcc5000)
        Total:                             12204 MB (  2facf0000)
    Page File (Swap space):
        In Use:                             3868 MB (   f1c5d000)
        Free:                               9936 MB (  26d093000)
        Total:                             13804 MB (  35ecf0000)
    Virtual Memory (Address Space):
        In Use:                             4221 MB (  107d7a000)
        Free:                           134213506 MB (7ffef8266000)
        Total:                          134217727 MB (7ffffffe0000)
    Largest Contiguous Free Blocks:
         1. [at   1800c2000]           134170621 MB (7ff47fd9c000)
         2. [at 7ff5fffff000]               23220 MB (  5ab451000)
         3. [at 7ffbc565c000]               17321 MB (  43a984000)
         4. [at   140029000]                1023 MB (   3ffd7000)
         5. [at   11c000000]                 576 MB (   24000000)
         6. [at   104000000]                 128 MB (    8000000)
         7. [at   110000000]                 128 MB (    8000000)
         8. [at 7ffbb0000000]                  74 MB (    4a70000)
         9. [at    b3ff0000]                  64 MB (    4000000)
        10. [at 7ffbab6aa000]                  46 MB (    2e46000)
                                            ======= ==========
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
回帖支持 ( 显示支持度最高的前 50 名 )

兜兜妖神

铜虫 (初入文坛)

★
小木虫: 金币+0.5, 给个红包,谢谢回帖
最好是能变换处理公式,或者将矩阵分割的更小最好,现在限制你运算的是硬盘的IO速度了。
你说的虚拟内存是win将一部分硬盘作为内存开始用,如果你硬盘不是固态的话,由于机械硬盘读写速度小了内存条读写速度一个数量级,所以如果强行读取数据,在进行矩阵运算的时候会进一步变慢。

发自小木虫Android客户端
3楼2015-12-30 23:28:41
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

wangww2011

木虫 (著名写手)

★
小木虫: 金币+0.5, 给个红包,谢谢回帖
没啥好办法 除非你换个内存大的电脑。
虚拟内存是把硬盘中的一部分在你内存不够的时候当内存来用的,速度奇慢无比。
6楼2016-01-01 19:30:21
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通回帖

mygt_hit

专家顾问 (职业作家)

★
小木虫: 金币+0.5, 给个红包,谢谢回帖
这数据确实大啊。分开存放到一个个小文件里不行吗?
知其然,知其所以然。
2楼2015-12-30 22:17:26
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
祝福祝福祝福
4楼2015-12-31 17:16:12
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

蜉蝣于天地

银虫 (小有名气)

★
小木虫: 金币+0.5, 给个红包,谢谢回帖
试试看load 有没有see also选项,可能有不会一次性读取所有内容的函数。
非宁静无以致远,非淡泊无以明志
5楼2016-01-01 17:02:56
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

jialay

铁虫 (小有名气)

★
小木虫: 金币+0.5, 给个红包,谢谢回帖
数据量确实过大,能不能精简数据?不然就用服务器吧。

发自小木虫Android客户端
qr
7楼2016-01-01 19:42:53
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

wxws.2008

木虫 (正式写手)

★
小木虫: 金币+0.5, 给个红包,谢谢回帖
用c语言或者fortran

发自小木虫Android客户端
8楼2016-01-01 21:39:22
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

AAAding

铜虫 (小有名气)

9楼2016-01-02 08:51:25
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

duotojh

金虫 (小有名气)

★
小木虫: 金币+0.5, 给个红包,谢谢回帖
操作系统中内存管理一般数组最大1G,你需要采用多个数组或特殊的多维动态数组才能使用
10楼2016-01-02 15:03:29
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 ghlzt 的主题更新
普通表情 龙 兔 虎 猫 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +3 xvJS1BYDxvBS 2026-10-31 8/400 2026-11-01 05:48 by YXM1FDCSE8Bn
[硕博家园] 售SCI一区T0P文章,我:8.O55.1.O.54,科目全,可十急 +3 xvJS1BYDxvBS 2026-10-31 8/400 2026-11-01 05:43 by YXM1FDCSE8Bn
[公派出国] 售SCI文章,我:8O5.5.1.O.54,科目齐全,可+急 +3 1uaZt2kAZj2S 2026-10-31 6/300 2026-11-01 05:41 by YXM1FDCSE8Bn
[博后之家] 售SCI文章,我:8O5.5.1.O.54,科目齐全,可+急 +3 1uaZt2kAZj2S 2026-10-30 15/750 2026-11-01 05:22 by YXM1FDCSE8Bn
[考博] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +3 1uaZt2kAZj2S 2026-10-30 14/700 2026-11-01 05:17 by YXM1FDCSE8Bn
[基金申请] 售SCI一区T0P文章,我:8.O.55.1.O.54,科目齐全,可+急 +3 1uaZt2kAZj2S 2026-10-31 3/150 2026-11-01 04:04 by YXM1FDCSE8Bn
[考研] 售SCI一区T0P文章,我:8.O.55.1.O54,科目全,可伽急 +3 1uaZt2kAZj2S 2026-10-31 7/350 2026-11-01 04:04 by YXM1FDCSE8Bn
[论文投稿] 售一区SCI文章T0P,我:8O.551.O54,科目全,可十急 +3 1uaZt2kAZj2S 2026-10-31 8/400 2026-11-01 03:59 by YXM1FDCSE8Bn
[博后之家] 售SCI一区文章,我:8O5.5.1.O5.4,科目全,可伽急 +3 1uaZt2kAZj2S 2026-10-31 6/300 2026-11-01 03:56 by YXM1FDCSE8Bn
[找工作] 售一区SCI文章T0P,我:8O.551.O54,科目全,可十急 +3 1uaZt2kAZj2S 2026-10-31 6/300 2026-11-01 03:56 by YXM1FDCSE8Bn
[公派出国] 售SCI一区T0P文章,我:8.O.55.1.O.5.4,科目全,可+急 +3 1uaZt2kAZj2S 2026-10-30 13/650 2026-11-01 03:46 by YXM1FDCSE8Bn
[硕博家园] 售SCI一区T0P文章,我:8O.55.1.O.54,科目全,可伽急 +3 X5bHxOULxFqb 2026-10-30 16/800 2026-11-01 03:38 by YXM1FDCSE8Bn
[考博] 售SCI一区T0P文章,我:8.O.55.1.O.5.4,科目全,可+急 +4 X5bHxOULxFqb 2026-10-30 20/1000 2026-11-01 03:33 by YXM1FDCSE8Bn
[基金申请] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +5 X5bHxOULxFqb 2026-10-30 20/1000 2026-11-01 03:30 by YXM1FDCSE8Bn
[考研] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +3 1uaZt2kAZj2S 2026-10-30 12/600 2026-11-01 02:19 by YXM1FDCSE8Bn
[硕博家园] 售SCI一区T0P文章,我:8.O.55.1.O.54,科目齐全,可+急 +4 X5bHxOULxFqb 2026-10-30 12/600 2026-11-01 00:15 by YXM1FDCSE8Bn
[教师之家] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +3 X5bHxOULxFqb 2026-10-30 13/650 2026-10-31 17:12 by hKe7U1kad5Sg
[考博] 2027博士申请-临床检验诊断学、病原生物学、微生物方向 50+3 yyh@ 2026-10-28 4/200 2026-10-31 12:47 by 可淡不可忘
[硕博家园] 申博自荐 2篇一区TOP+1篇EI+2公开发明专利 2027博士申请 +3 小小阿光 2026-10-27 3/150 2026-10-29 23:56 by 起风了的快乐
[文学芳草园] 闲聊 +3 myrtle 2026-10-25 6/300 2026-10-29 15:28 by myrtle
信息提示
请填处理意见