24小时热门版块排行榜    

北京石油化工学院2026年研究生招生接收调剂公告
查看: 1047  |  回复: 3
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

493508923

铁虫 (初入文坛)

[求助] 求逆矩阵数据溢出问题,急急急!求高手指点

我编写了一个阻尼二乘法模拟波速的程序,迭代了四次就显示数据溢出了,经查看发现数据溢出发生在矩阵求逆的子程序处,被求逆的矩阵是36*36的矩阵,矩阵中的大多元素都是-11次方左右的数量级,请高手帮忙分析下这种溢出问题该怎么解决。急急急!!
回复此楼

» 猜你喜欢

» 本主题相关价值贴推荐,对您同样有帮助:

每天进步一点点
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

jjdg

版主 (知名作家)

优秀版主

【答案】应助回帖

你都自己写程序了,还不了解数据类型?整型换单精,单精换双精,就这样改不就ok了
努力学习!以正当途径!获得需要的知识!
4楼2012-08-22 14:19:43
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 4 个回答

jjdg

版主 (知名作家)

优秀版主

【答案】应助回帖


感谢参与,应助指数 +1
xzhdty: 金币+1, 谢谢jjdg斑斑 2012-08-22 08:23:25
修改变量的数据类型,用大的
努力学习!以正当途径!获得需要的知识!
2楼2012-08-22 03:27:30
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

493508923

铁虫 (初入文坛)

引用回帖:
2楼: Originally posted by jjdg at 2012-08-22 03:27:30
修改变量的数据类型,用大的

谢谢,不过你是说将变量变成精度更高的,还是申请更大的空间啊?
每天进步一点点
3楼2012-08-22 12:41:51
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 调剂 +3 mcbbc 2026-04-06 4/200 2026-04-06 20:58 by lbsjt
[考研] 一志愿南科大生物学297分,求调剂推荐 +5 Y-yyusx 2026-04-06 6/300 2026-04-06 19:53 by lijunpoly
[考研] 求调剂 一志愿西南交通大学085701环境工程 282分 +9 多多爱吃汉堡 2026-04-04 9/450 2026-04-06 14:14 by lqwchd
[考研] 281求调剂 +8 椰子蘑菇 2026-04-06 8/400 2026-04-06 10:38 by 蓝云思雨
[考研] 一志愿C9的化学工程(085602) 340分,感觉校内调剂无望,求调剂 +12 万事宜臻 2026-04-04 12/600 2026-04-06 07:46 by 无际的草原
[考研] 086000生物与医药求调剂 +3 老天眷顾之人 2026-03-31 3/150 2026-04-05 22:24 by syh9288
[考研] 求调剂 +7 张.1 2026-04-05 7/350 2026-04-05 20:40 by 啵啵啵0119
[考研] 材料专硕 调剂 +14 CXN123456 2026-04-03 14/700 2026-04-05 17:18 by Hdyxbekcb
[考研] 生物工程求调剂 +6 喜欢还是不甘心 2026-04-05 6/300 2026-04-05 10:28 by 唐沐儿
[考研] 323分(计算机视觉和大模型项目)能直接上手 +3 chaoxiicy 2026-04-01 3/150 2026-04-05 00:50 by chongya
[考研] 调剂 +9 19945159693 2026-04-03 10/500 2026-04-04 20:16 by dongzh2009
[考研] 求调剂 +6 朔朔话 2026-04-02 7/350 2026-04-04 19:16 by 蓝云思雨
[考研] 280求调剂 +21 咕噜晓晓 2026-04-02 22/1100 2026-04-04 11:12 by 猪会飞
[考研] 材料科学与工程考研 +10 拯救皮特托先生 2026-04-02 10/500 2026-04-03 23:57 by userper
[考研] 302求调剂 +9 zyx上岸! 2026-04-02 9/450 2026-04-02 23:07 by 马儿快快地跑
[考研] 一志愿安徽大学计算机科学与技术学硕,331分求调剂 +5 蒋昌鹏qtj 2026-04-01 5/250 2026-04-02 08:10 by fxue1114
[考研] 化学工程专硕324分,一志愿中国矿业大学求调剂 +7 耿耿1314 2026-04-01 7/350 2026-04-02 07:40 by 尚水阁主
[考研] 一志愿北京科技大学085601材料工程英一数二初试总分335求调剂 +5 双马尾痞老板2 2026-03-31 5/250 2026-04-01 09:04 by oooqiao
[考研] 一志愿西交大080500材料学硕349 +6 jqx1258 2026-03-31 7/350 2026-03-31 21:08 by yuq
[考研] 085404 22408 315分 +5 zhuangyan123 2026-03-31 6/300 2026-03-31 13:48 by limeifeng
信息提示
请填处理意见