应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

Znn3bq.jpeg
小木虫论坛-学术科研互动平台 » 专业学科区 » 数学 » 计算数学 » 如何存储和计算超大规模稀疏矩阵
101/1返回列表
查看: 2929  |  回复: 9
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看

sapphirechina

铜虫 (正式写手)

[求助] 如何存储和计算超大规模稀疏矩阵 已有1人参与

本人在R语言环境中生成了一个18万行*18万列的单位矩阵，然后用循环给这个单位矩阵赋值，结果循环到8万多次就报错无法分配内存了。
代码如下：
#生成单位矩阵，用普通矩阵无法创建，所以用sparseMatrix来创建。
num_samples=180000
rownumber=c(1:num_samples)   
colnumber=c(1:num_samples)
value=c(rep(1,each=num_samples))
M=sparseMatrix(rownumber,colnumber,x=value)  

#给单位矩阵赋值，全部赋值完成后是一个4*50*180000个数值的对称稀疏矩阵。
for(i in 1:num_samples){     
    w=W[,i]                              #有50个浮点型数值。
    n=neighbors[,i]                 #有50个整型数值。
    M[i,n]=M[i,n]-t(w)
    M[n,i]=M[n,i]-w
    M[n,n]=M[n,n]+w%*%t(w)
}

请教上述的情况该怎么处理呢？我的机器内存是4G，32位操作系统。
如果这个矩阵能顺利赋值完毕，我随后还需要计算这个矩阵的特征值和特征向量。
请教可能实现么？
回复此楼

» 猜你喜欢
1楼 2016-11-26 09:18:34
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

100403140212

木虫 (正式写手)

超级水晶虫
把矩阵及运算结果直接写入文件，不要挂载在内存，循环后及时释放内存

发自小木虫Android客户端
赞一下(1人) 回复此楼
奔跑吧，骚年
2楼2016-11-26 22:23:15
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

sapphirechina

铜虫 (正式写手)
引用回帖:
2楼: Originally posted by 100403140212 at 2016-11-26 22:23:15
把矩阵及运算结果直接写入文件，不要挂载在内存，循环后及时释放内存

多谢指点! 不知道有无方便的稀疏矩阵存储工具可以使用的？
另外，赋值全部完毕后，还需要对该矩阵求特征值和特征向量。
这时候是否还需要恢复为原来的矩阵？如果这样的话，那又没戏了。
赞一下 回复此楼
3楼2016-11-27 08:51:02
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

alober

木虫 (著名写手)
不懂这种程序语言，用python里的scipy.sparse.linalg.eigs到是能求稀疏矩阵前几个特征值。scipy.io用来读写矩阵到文件。不过这个语言我也不很懂，可以查一查相关的资料。
赞一下(1人) 回复此楼
4楼2016-11-27 10:36:13
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

100403140212

木虫 (正式写手)

超级水晶虫

【答案】应助回帖

★ ★ ★ ★ ★ ★ ★ ★ ★ ★
感谢参与，应助指数 +1
sapphirechina: 金币+10, ★★★很有帮助, 现在稀疏矩阵可以存到文本文件了，那么有无可能直接用该文件计算特征值和特征向量呢？望指教！ 2016-11-27 16:47:50
引用回帖:
3楼: Originally posted by sapphirechina at 2016-11-27 08:51:02
多谢指点! 不知道有无方便的稀疏矩阵存储工具可以使用的？
另外，赋值全部完毕后，还需要对该矩阵求特征值和特征向量。
这时候是否还需要恢复为原来的矩阵？如果这样的话，那又没戏了。...

参考http://m.4byte.cn/question/662063/r-sparse-matrix-conversion.html

发自小木虫Android客户端
赞一下 回复此楼
奔跑吧，骚年
5楼2016-11-27 14:12:28
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

sapphirechina

铜虫 (正式写手)
引用回帖:
4楼: Originally posted by alober at 2016-11-27 10:36:13
不懂这种程序语言，用python里的scipy.sparse.linalg.eigs到是能求稀疏矩阵前几个特征值。scipy.io用来读写矩阵到文件。不过这个语言我也不很懂，可以查一查相关的资料。

多谢指点！
回复此楼
6楼2016-11-27 16:46:24
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zhijian_duan

铁杆木虫 (正式写手)
系数矩阵可以采用拉直的方式进行处理，只是调用程序繁琐而已
赞一下 回复此楼
功夫不负有心人
7楼2016-11-30 14:44:18
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

sapphirechina

铜虫 (正式写手)
引用回帖:
7楼: Originally posted by zhijian_duan at 2016-11-30 14:44:18
系数矩阵可以采用拉直的方式进行处理，只是调用程序繁琐而已

请问该怎么拉直呢？能详细指点一下么？
赞一下 回复此楼
8楼2016-11-30 18:42:28
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

FMStation

至尊木虫 (知名作家)
https://www.mathworks.com/help/matlab/math/constructing-sparse-matrices.html
CODE:
S = sparse(i,j,s,m,n)

S = sparse([3 2 3 4 1],[1 2 2 3 4],[1 2 3 4 5],4,4)

D = sparse(1:n,1:n,-2*ones(1,n),n,n);
E = sparse(2:n,1:n-1,ones(1,n-1),n,n);
S = E+D+E'

https://www.mathworks.com/help/matlab/math/accessing-sparse-matrices.html
CODE:
i = [1 5 2 5 3 5 4 5 1 2 3 4 5]';
j = [1 1 2 2 3 3 4 4 5 5 5 5 5]';
s = [4 1 4 1 4 1 4 1 -1 -1 -1 -1 4]';
C = sparse(i,j,s)

https://www.mathworks.com/help/matlab/math/sparse-matrix-operations.html
CODE:
p = [1 3 4 2 5]
I = eye(5,5);
P = I(p,:);
e = ones(4,1);
S = diag(11:11:55) + diag(e,1) + diag(e,-1)
赞一下(1人) 回复此楼
9楼2016-12-11 21:13:41
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

sapphirechina

铜虫 (正式写手)
引用回帖:
9楼: Originally posted by FMStation at 2016-12-11 21:13:41
https://www.mathworks.com/help/matlab/math/constructing-sparse-matrices.html


S = sparse(i,j,s,m,n)

S = sparse(,,,4,4)

D = sparse(1:n,1:n,-2*ones(1,n),n,n);
E = sparse(2:n,1:n-1,ones(1,n-1 ...

太好了，这是matlab代码吧？我试试看。
赞一下 回复此楼
10楼2016-12-12 08:08:37
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 sapphirechina 的主题更新
101/1返回列表
普通表情 龙 兔 虎 猫
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 290调剂生物0860 +13 哇哈哈，。 2026-04-11 14/700 2026-04-11 17:28 by grlsj
[考研] 11408。358求调剂 +3 TMYzds 2026-04-07 3/150 2026-04-11 17:10 by 氮气气气
[考研] 262求调剂 +12 天下第一文 2026-04-04 15/750 2026-04-11 14:09 by 释放天性
[考研] 268分085602化学工程调剂 +27 月照花林。 2026-04-09 27/1350 2026-04-11 10:40 by maddjdld
[考研] 275求调剂 +9 1624447980 2026-04-08 10/500 2026-04-11 10:20 by Delta2012
[考研] 284求调剂 +12 archer.. 2026-04-10 13/650 2026-04-11 08:44 by zhq0425
[考研] 302分求调剂 +9 凡语祈愿 2026-04-08 10/500 2026-04-10 23:26 by 314126402
[考研] 本科南方医科大学 一志愿985 药学学硕284分 求调剂 +4 弱水听文 2026-04-09 4/200 2026-04-10 22:01 by doctff
[考研] 280求调剂 +12 李rien 2026-04-04 12/600 2026-04-10 21:19 by zhouxiaoyu
[考研] 本科西工大 324求调剂 +4 wysyjs25 2026-04-10 4/200 2026-04-10 20:00 by 来看流星雨10
[考研] 085800 能源动力求调剂 +6 阿biu啊啊啊啊啊 2026-04-10 6/300 2026-04-10 15:03 by hemengdong
[考研] 一志愿双非085400电子信息344 求调剂，对材料和化学方向也感兴趣 +8 无情的小羊 2026-04-09 9/450 2026-04-10 09:30 by 松花缸1201
[考研] 本科211 工科085400 280分求调剂 可跨专业 +3 LZH（等待调剂中 2026-04-09 3/150 2026-04-09 21:29 by wutongshun
[考研] 337求调剂 +4 Gky09300550， 2026-04-09 4/200 2026-04-09 17:18 by 帕尔马拉特
[考研] 一志愿厦大生物学332求调剂 +10 池池池池池池 2026-04-08 10/500 2026-04-09 17:10 by 独醉梦孤城
[考研] 材料专硕(0856) 339分求调剂 +16 哈哈哈鹅哈哈哈 2026-04-05 16/800 2026-04-08 16:02 by luoyongfeng
[考研] 338求调剂 +5 小猪红色 678 2026-04-06 6/300 2026-04-07 21:18 by 乔哒哒哒
[考研] 工科370求调剂 +3 溏心煎鸡蛋 2026-04-05 3/150 2026-04-06 10:55 by 这是一个无聊的�
[考研] 一志愿北交大材料工程总分358求调剂 +6 cs0106 2026-04-05 6/300 2026-04-05 16:34 by imissbao
[考研] 341求调剂 +3 学无止境，冲 2026-04-05 3/150 2026-04-05 09:40 by lbsjt
信息提示
关闭
请填处理意见
关闭