应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 专业学科区 » 数学 » 计算数学 » 如何存储和计算超大规模稀疏矩阵
101/1返回列表
查看: 2891  |  回复: 9
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看

sapphirechina

铜虫 (正式写手)

[求助] 如何存储和计算超大规模稀疏矩阵 已有1人参与

本人在R语言环境中生成了一个18万行*18万列的单位矩阵，然后用循环给这个单位矩阵赋值，结果循环到8万多次就报错无法分配内存了。
代码如下：
#生成单位矩阵，用普通矩阵无法创建，所以用sparseMatrix来创建。
num_samples=180000
rownumber=c(1:num_samples)   
colnumber=c(1:num_samples)
value=c(rep(1,each=num_samples))
M=sparseMatrix(rownumber,colnumber,x=value)  

#给单位矩阵赋值，全部赋值完成后是一个4*50*180000个数值的对称稀疏矩阵。
for(i in 1:num_samples){     
    w=W[,i]                              #有50个浮点型数值。
    n=neighbors[,i]                 #有50个整型数值。
    M[i,n]=M[i,n]-t(w)
    M[n,i]=M[n,i]-w
    M[n,n]=M[n,n]+w%*%t(w)
}

请教上述的情况该怎么处理呢？我的机器内存是4G，32位操作系统。
如果这个矩阵能顺利赋值完毕，我随后还需要计算这个矩阵的特征值和特征向量。
请教可能实现么？
回复此楼

» 猜你喜欢
1楼 2016-11-26 09:18:34
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

100403140212

木虫 (正式写手)

超级水晶虫
把矩阵及运算结果直接写入文件，不要挂载在内存，循环后及时释放内存

发自小木虫Android客户端
赞一下(1人) 回复此楼
奔跑吧，骚年
2楼2016-11-26 22:23:15
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

sapphirechina

铜虫 (正式写手)
引用回帖:
2楼: Originally posted by 100403140212 at 2016-11-26 22:23:15
把矩阵及运算结果直接写入文件，不要挂载在内存，循环后及时释放内存

多谢指点! 不知道有无方便的稀疏矩阵存储工具可以使用的？
另外，赋值全部完毕后，还需要对该矩阵求特征值和特征向量。
这时候是否还需要恢复为原来的矩阵？如果这样的话，那又没戏了。
赞一下 回复此楼
3楼2016-11-27 08:51:02
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

alober

木虫 (著名写手)
不懂这种程序语言，用python里的scipy.sparse.linalg.eigs到是能求稀疏矩阵前几个特征值。scipy.io用来读写矩阵到文件。不过这个语言我也不很懂，可以查一查相关的资料。
赞一下(1人) 回复此楼
4楼2016-11-27 10:36:13
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

100403140212

木虫 (正式写手)

超级水晶虫

【答案】应助回帖

★ ★ ★ ★ ★ ★ ★ ★ ★ ★
感谢参与，应助指数 +1
sapphirechina: 金币+10, ★★★很有帮助, 现在稀疏矩阵可以存到文本文件了，那么有无可能直接用该文件计算特征值和特征向量呢？望指教！ 2016-11-27 16:47:50
引用回帖:
3楼: Originally posted by sapphirechina at 2016-11-27 08:51:02
多谢指点! 不知道有无方便的稀疏矩阵存储工具可以使用的？
另外，赋值全部完毕后，还需要对该矩阵求特征值和特征向量。
这时候是否还需要恢复为原来的矩阵？如果这样的话，那又没戏了。...

参考http://m.4byte.cn/question/662063/r-sparse-matrix-conversion.html

发自小木虫Android客户端
赞一下 回复此楼
奔跑吧，骚年
5楼2016-11-27 14:12:28
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

sapphirechina

铜虫 (正式写手)
引用回帖:
4楼: Originally posted by alober at 2016-11-27 10:36:13
不懂这种程序语言，用python里的scipy.sparse.linalg.eigs到是能求稀疏矩阵前几个特征值。scipy.io用来读写矩阵到文件。不过这个语言我也不很懂，可以查一查相关的资料。

多谢指点！
回复此楼
6楼2016-11-27 16:46:24
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zhijian_duan

铁杆木虫 (正式写手)
系数矩阵可以采用拉直的方式进行处理，只是调用程序繁琐而已
赞一下 回复此楼
功夫不负有心人
7楼2016-11-30 14:44:18
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

sapphirechina

铜虫 (正式写手)
引用回帖:
7楼: Originally posted by zhijian_duan at 2016-11-30 14:44:18
系数矩阵可以采用拉直的方式进行处理，只是调用程序繁琐而已

请问该怎么拉直呢？能详细指点一下么？
赞一下 回复此楼
8楼2016-11-30 18:42:28
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

FMStation

至尊木虫 (知名作家)
https://www.mathworks.com/help/matlab/math/constructing-sparse-matrices.html
CODE:
S = sparse(i,j,s,m,n)

S = sparse([3 2 3 4 1],[1 2 2 3 4],[1 2 3 4 5],4,4)

D = sparse(1:n,1:n,-2*ones(1,n),n,n);
E = sparse(2:n,1:n-1,ones(1,n-1),n,n);
S = E+D+E'

https://www.mathworks.com/help/matlab/math/accessing-sparse-matrices.html
CODE:
i = [1 5 2 5 3 5 4 5 1 2 3 4 5]';
j = [1 1 2 2 3 3 4 4 5 5 5 5 5]';
s = [4 1 4 1 4 1 4 1 -1 -1 -1 -1 4]';
C = sparse(i,j,s)

https://www.mathworks.com/help/matlab/math/sparse-matrix-operations.html
CODE:
p = [1 3 4 2 5]
I = eye(5,5);
P = I(p,:);
e = ones(4,1);
S = diag(11:11:55) + diag(e,1) + diag(e,-1)
赞一下(1人) 回复此楼
9楼2016-12-11 21:13:41
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

sapphirechina

铜虫 (正式写手)
引用回帖:
9楼: Originally posted by FMStation at 2016-12-11 21:13:41
https://www.mathworks.com/help/matlab/math/constructing-sparse-matrices.html


S = sparse(i,j,s,m,n)

S = sparse(,,,4,4)

D = sparse(1:n,1:n,-2*ones(1,n),n,n);
E = sparse(2:n,1:n-1,ones(1,n-1 ...

太好了，这是matlab代码吧？我试试看。
赞一下 回复此楼
10楼2016-12-12 08:08:37
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 sapphirechina 的主题更新
101/1返回列表
普通表情 龙 兔 虎 猫
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 0856调剂，是学校就去 +8 sllhht 2026-03-19 9/450 2026-03-20 14:25 by 无懈可击111
[考研] 295复试调剂 +7 简木ChuFront 2026-03-19 7/350 2026-03-20 14:11 by 星空星月
[考研] 279分求调剂 一志愿211 +9 chaojifeixia 2026-03-19 10/500 2026-03-20 12:29 by lature00
[考研] 【考研调剂】化学专业 281分，一志愿四川大学，诚心求调剂 +6 吃吃吃才有意义 2026-03-19 6/300 2026-03-20 10:47 by 尽舜尧1
[考研] 0703化学调剂 +10 妮妮ninicgb 2026-03-15 14/700 2026-03-19 22:59 by 学员8dgXkO
[考研] 320求调剂0856 +3 不想起名字112 2026-03-19 3/150 2026-03-19 22:53 by 学员8dgXkO
[考研] 321求调剂 +8 何润采123 2026-03-18 10/500 2026-03-19 16:46 by 何润采123
[教师之家] 焦虑 +9 水冰月月野兔 2026-03-13 13/650 2026-03-19 09:50 by otani
[考研] 311求调剂 +6 26研0 2026-03-15 6/300 2026-03-18 14:43 by haxia
[考研] 0854，计算机类招收调剂 +3 胡辣汤放糖 2026-03-15 6/300 2026-03-18 12:09 by 上岸上岸……..
[考研] 280求调剂 +6 咕噜晓晓 2026-03-18 7/350 2026-03-18 11:25 by 无际的草原
[考研] 0703化学336分求调剂 +6 zbzihdhd 2026-03-15 7/350 2026-03-18 09:53 by zhukairuo
[考研] 334求调剂 +3 志存高远意在机� 2026-03-16 3/150 2026-03-18 08:34 by lm4875102
[考研] 293求调剂 +11 zjl的号 2026-03-16 16/800 2026-03-18 08:10 by zhukairuo
[硕博家园] 湖北工业大学 生命科学与健康学院-课题组招收2026级食品/生物方向硕士 +3 1喜春8 2026-03-17 5/250 2026-03-17 17:18 by ber川cool子
[考研] 材料工程专硕274一志愿211求调剂 +6 薛云鹏 2026-03-15 6/300 2026-03-17 11:05 by 学员h26Tkc
[考研] 东南大学364求调剂 +5 JasonYuiui 2026-03-15 5/250 2026-03-16 21:28 by 木瓜膏
[考研] 304求调剂 +3 曼殊2266 2026-03-14 3/150 2026-03-16 16:39 by houyaoxu
[考研] 求老师收留调剂 +4 jiang姜66 2026-03-14 5/250 2026-03-15 20:11 by Winj1e
[考研] 招收0805（材料）调剂 +3 18595523086 2026-03-13 3/150 2026-03-14 00:33 by 123%、
信息提示
关闭
请填处理意见
关闭