应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

CyRhmU.jpeg
小木虫论坛-学术科研互动平台 » 专业学科区 » 数学 » 计算数学 » 如何存储和计算超大规模稀疏矩阵
101/1返回列表
查看: 2731  |  回复: 9
只看楼主@他人 存档 新回复提醒 (忽略) 收藏    在APP中查看

sapphirechina

铜虫 (正式写手)

[求助] 如何存储和计算超大规模稀疏矩阵已有1人参与

本人在R语言环境中生成了一个18万行*18万列的单位矩阵，然后用循环给这个单位矩阵赋值，结果循环到8万多次就报错无法分配内存了。
代码如下：
#生成单位矩阵，用普通矩阵无法创建，所以用sparseMatrix来创建。
num_samples=180000
rownumber=c(1:num_samples)   
colnumber=c(1:num_samples)
value=c(rep(1,each=num_samples))
M=sparseMatrix(rownumber,colnumber,x=value)  

#给单位矩阵赋值，全部赋值完成后是一个4*50*180000个数值的对称稀疏矩阵。
for(i in 1:num_samples){     
    w=W[,i]                              #有50个浮点型数值。
    n=neighbors[,i]                 #有50个整型数值。
    M[i,n]=M[i,n]-t(w)
    M[n,i]=M[n,i]-w
    M[n,n]=M[n,n]+w%*%t(w)
}

请教上述的情况该怎么处理呢？我的机器内存是4G，32位操作系统。
如果这个矩阵能顺利赋值完毕，我随后还需要计算这个矩阵的特征值和特征向量。
请教可能实现么？
回复此楼

» 猜你喜欢
1楼2016-11-26 09:18:34
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

100403140212

木虫 (正式写手)

超级水晶虫
把矩阵及运算结果直接写入文件，不要挂载在内存，循环后及时释放内存

发自小木虫Android客户端
赞一下(1人) 回复此楼
奔跑吧，骚年
2楼2016-11-26 22:23:15
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

sapphirechina

铜虫 (正式写手)
引用回帖:
2楼: Originally posted by 100403140212 at 2016-11-26 22:23:15
把矩阵及运算结果直接写入文件，不要挂载在内存，循环后及时释放内存

多谢指点! 不知道有无方便的稀疏矩阵存储工具可以使用的？
另外，赋值全部完毕后，还需要对该矩阵求特征值和特征向量。
这时候是否还需要恢复为原来的矩阵？如果这样的话，那又没戏了。
赞一下 回复此楼
3楼2016-11-27 08:51:02
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

alober

木虫 (著名写手)
不懂这种程序语言，用python里的scipy.sparse.linalg.eigs到是能求稀疏矩阵前几个特征值。scipy.io用来读写矩阵到文件。不过这个语言我也不很懂，可以查一查相关的资料。
赞一下(1人) 回复此楼
4楼2016-11-27 10:36:13
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

100403140212

木虫 (正式写手)

超级水晶虫

【答案】应助回帖

★ ★ ★ ★ ★ ★ ★ ★ ★ ★
感谢参与，应助指数 +1
sapphirechina: 金币+10, ★★★很有帮助, 现在稀疏矩阵可以存到文本文件了，那么有无可能直接用该文件计算特征值和特征向量呢？望指教！ 2016-11-27 16:47:50
引用回帖:
3楼: Originally posted by sapphirechina at 2016-11-27 08:51:02
多谢指点! 不知道有无方便的稀疏矩阵存储工具可以使用的？
另外，赋值全部完毕后，还需要对该矩阵求特征值和特征向量。
这时候是否还需要恢复为原来的矩阵？如果这样的话，那又没戏了。...

参考http://m.4byte.cn/question/662063/r-sparse-matrix-conversion.html

发自小木虫Android客户端
赞一下 回复此楼
奔跑吧，骚年
5楼2016-11-27 14:12:28
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

sapphirechina

铜虫 (正式写手)
引用回帖:
4楼: Originally posted by alober at 2016-11-27 10:36:13
不懂这种程序语言，用python里的scipy.sparse.linalg.eigs到是能求稀疏矩阵前几个特征值。scipy.io用来读写矩阵到文件。不过这个语言我也不很懂，可以查一查相关的资料。

多谢指点！
回复此楼
6楼2016-11-27 16:46:24
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zhijian_duan

铁杆木虫 (正式写手)
系数矩阵可以采用拉直的方式进行处理，只是调用程序繁琐而已
赞一下 回复此楼
功夫不负有心人
7楼2016-11-30 14:44:18
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

sapphirechina

铜虫 (正式写手)
引用回帖:
7楼: Originally posted by zhijian_duan at 2016-11-30 14:44:18
系数矩阵可以采用拉直的方式进行处理，只是调用程序繁琐而已

请问该怎么拉直呢？能详细指点一下么？
赞一下 回复此楼
8楼2016-11-30 18:42:28
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

FMStation

至尊木虫 (知名作家)
https://www.mathworks.com/help/matlab/math/constructing-sparse-matrices.html
CODE:
S = sparse(i,j,s,m,n)

S = sparse([3 2 3 4 1],[1 2 2 3 4],[1 2 3 4 5],4,4)

D = sparse(1:n,1:n,-2*ones(1,n),n,n);
E = sparse(2:n,1:n-1,ones(1,n-1),n,n);
S = E+D+E'

https://www.mathworks.com/help/matlab/math/accessing-sparse-matrices.html
CODE:
i = [1 5 2 5 3 5 4 5 1 2 3 4 5]';
j = [1 1 2 2 3 3 4 4 5 5 5 5 5]';
s = [4 1 4 1 4 1 4 1 -1 -1 -1 -1 4]';
C = sparse(i,j,s)

https://www.mathworks.com/help/matlab/math/sparse-matrix-operations.html
CODE:
p = [1 3 4 2 5]
I = eye(5,5);
P = I(p,:);
e = ones(4,1);
S = diag(11:11:55) + diag(e,1) + diag(e,-1)
赞一下(1人) 回复此楼
9楼2016-12-11 21:13:41
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

sapphirechina

铜虫 (正式写手)
引用回帖:
9楼: Originally posted by FMStation at 2016-12-11 21:13:41
https://www.mathworks.com/help/matlab/math/constructing-sparse-matrices.html


S = sparse(i,j,s,m,n)

S = sparse(,,,4,4)

D = sparse(1:n,1:n,-2*ones(1,n),n,n);
E = sparse(2:n,1:n-1,ones(1,n-1 ...

太好了，这是matlab代码吧？我试试看。
赞一下 回复此楼
10楼2016-12-12 08:08:37
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 sapphirechina 的主题更新
101/1返回列表
普通表情 龙 兔 虎 猫
信息提示
关闭
请填处理意见
关闭