24小时热门版块排行榜    

北京石油化工学院2026年研究生招生接收调剂公告
查看: 1048  |  回复: 3

493508923

铁虫 (初入文坛)

[求助] 求逆矩阵数据溢出问题,急急急!求高手指点

我编写了一个阻尼二乘法模拟波速的程序,迭代了四次就显示数据溢出了,经查看发现数据溢出发生在矩阵求逆的子程序处,被求逆的矩阵是36*36的矩阵,矩阵中的大多元素都是-11次方左右的数量级,请高手帮忙分析下这种溢出问题该怎么解决。急急急!!
回复此楼

» 猜你喜欢

» 本主题相关价值贴推荐,对您同样有帮助:

每天进步一点点
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

jjdg

版主 (知名作家)

优秀版主

【答案】应助回帖


感谢参与,应助指数 +1
xzhdty: 金币+1, 谢谢jjdg斑斑 2012-08-22 08:23:25
修改变量的数据类型,用大的
努力学习!以正当途径!获得需要的知识!
2楼2012-08-22 03:27:30
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

493508923

铁虫 (初入文坛)

引用回帖:
2楼: Originally posted by jjdg at 2012-08-22 03:27:30
修改变量的数据类型,用大的

谢谢,不过你是说将变量变成精度更高的,还是申请更大的空间啊?
每天进步一点点
3楼2012-08-22 12:41:51
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

jjdg

版主 (知名作家)

优秀版主

【答案】应助回帖

你都自己写程序了,还不了解数据类型?整型换单精,单精换双精,就这样改不就ok了
努力学习!以正当途径!获得需要的知识!
4楼2012-08-22 14:19:43
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 493508923 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 22408 调剂材料 +4 我叫ez 2026-04-06 4/200 2026-04-06 20:53 by lbsjt
[考研] 生物与医药求调剂 +7 heguanhua 2026-04-05 8/400 2026-04-06 18:41 by macy2011
[考研] 318求调剂 +12 ykyhsa 2026-04-05 14/700 2026-04-06 17:46 by fuyu_
[考研] 材料调剂 +12 一样YWY 2026-04-05 13/650 2026-04-06 15:38 by lin-da
[考研] 求助 +3 卡卡东88 2026-04-06 4/200 2026-04-06 15:28 by going home
[考研] 材料专硕283求调剂 +17 试试看呗 2026-04-04 18/900 2026-04-06 09:24 by 286640313
[考研] 308求调剂 +4 maverick^_^ 2026-04-03 4/200 2026-04-05 19:08 by 蓝云思雨
[考研] 296求调剂 +3 汪!?! 2026-04-05 5/250 2026-04-05 17:38 by 蓝云思雨
[考研] 288求调剂 一志愿哈工大 材料与化工 +13 洛神哥哥 2026-04-03 13/650 2026-04-05 17:27 by zzx2138
[考研] 材料专硕 调剂 +14 CXN123456 2026-04-03 14/700 2026-04-05 17:18 by Hdyxbekcb
[考研] 323求调剂(计算机视觉和大模型项目经历) +3 chaoxiicy 2026-03-31 3/150 2026-04-05 10:33 by zhq0425
[考研] +5 化工专硕323分 2026-04-04 5/250 2026-04-05 08:02 by 544594351
[考研] 085400电子信息319求调剂(接受跨专业调剂) +5 星星不眨眼喽 2026-04-03 6/300 2026-04-04 21:50 by hemengdong
[考研] 278求调剂 +6 Yy7400 2026-04-03 6/300 2026-04-04 09:53 by zhangdingwa
[考研] 一志愿中国石油大学化学工程323分求调剂 +4 化工专硕323分 2026-04-03 6/300 2026-04-03 22:12 by dongzh2009
[考研] 化工调剂303分,过四级 +28 栖梧待风 2026-04-02 28/1400 2026-04-03 21:40 by qlm5820
[考研] 372分材料与化工(085600)一志愿湖南大学求调剂 +5 蓝笺片 2026-04-02 6/300 2026-04-02 21:37 by dongzh2009
[考研] 农学考研求调剂 +3 dkdkxm 2026-04-01 3/150 2026-04-02 16:04 by wangjagri
[考研] 350求调剂 +7 阿佳~ 2026-03-31 7/350 2026-04-01 16:12 by yanflower7133
[考研] 吉大生物学326分求调剂 +3 sunnyupup 2026-03-31 3/150 2026-03-31 09:28 by longlotian
信息提示
请填处理意见