24小时热门版块排行榜    

北京石油化工学院2026年研究生招生接收调剂公告
查看: 1044  |  回复: 3
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

493508923

铁虫 (初入文坛)

[求助] 求逆矩阵数据溢出问题,急急急!求高手指点

我编写了一个阻尼二乘法模拟波速的程序,迭代了四次就显示数据溢出了,经查看发现数据溢出发生在矩阵求逆的子程序处,被求逆的矩阵是36*36的矩阵,矩阵中的大多元素都是-11次方左右的数量级,请高手帮忙分析下这种溢出问题该怎么解决。急急急!!
回复此楼

» 猜你喜欢

» 本主题相关价值贴推荐,对您同样有帮助:

每天进步一点点
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

493508923

铁虫 (初入文坛)

引用回帖:
2楼: Originally posted by jjdg at 2012-08-22 03:27:30
修改变量的数据类型,用大的

谢谢,不过你是说将变量变成精度更高的,还是申请更大的空间啊?
每天进步一点点
3楼2012-08-22 12:41:51
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 4 个回答

jjdg

版主 (知名作家)

优秀版主

【答案】应助回帖


感谢参与,应助指数 +1
xzhdty: 金币+1, 谢谢jjdg斑斑 2012-08-22 08:23:25
修改变量的数据类型,用大的
努力学习!以正当途径!获得需要的知识!
2楼2012-08-22 03:27:30
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

jjdg

版主 (知名作家)

优秀版主

【答案】应助回帖

你都自己写程序了,还不了解数据类型?整型换单精,单精换双精,就这样改不就ok了
努力学习!以正当途径!获得需要的知识!
4楼2012-08-22 14:19:43
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 266分,一志愿电气工程,本科材料,求材料专业调剂 +9 哇呼哼呼哼 2026-04-02 10/500 2026-04-06 19:47 by jean5056
[考研] 308求调剂 +6 墨墨漠 2026-04-06 6/300 2026-04-06 19:43 by jean5056
[考研] 273求调剂 +14 麦小叮当 2026-04-06 15/750 2026-04-06 19:42 by Viky0801
[考研] 生物与医药求调剂 +7 heguanhua 2026-04-05 8/400 2026-04-06 18:41 by macy2011
[考研] (调剂)一志愿报考哈尔滨工业大学0857资源与环境专业378分考生 +7 狠狠加油 2026-04-05 8/400 2026-04-06 16:52 by momo皓
[考研] 301求调剂 +3 XYPLR 2026-04-05 4/200 2026-04-05 19:07 by XYPLR
[考研] 复试调剂 +8 春日来信- 2026-04-03 8/400 2026-04-05 18:58 by 蓝云思雨
[考研] 材料调剂 +7 dxy调剂 2026-04-04 7/350 2026-04-05 09:15 by 陌秋26
[考研] 可跨专业调剂 +3 周的得地 2026-04-04 6/300 2026-04-04 22:21 by barlinike
[考研] 085601,一志愿厦大334复试被刷求调剂 +13 曾仰之 2026-04-03 15/750 2026-04-04 20:13 by dongzh2009
[考研] 材料科学与工程考研 +10 拯救皮特托先生 2026-04-02 10/500 2026-04-03 23:57 by userper
[考研] 294求调剂 +6 Grey_Ey 2026-04-03 6/300 2026-04-03 20:46 by 欣喜777
[考研] 0705理学294求调剂 +3 成果成果cg5 2026-04-03 3/150 2026-04-03 14:04 by simons1972
[考研] 调剂 +3 osbbx 2026-04-02 3/150 2026-04-03 07:47 by cc8418
[考研] 环境工程297分求调剂一志愿杭高院 +15 GENJIOW 2026-03-31 16/800 2026-04-02 17:56 by cyh—315
[考研] 282求调剂 +13 呼吸都是减肥 2026-04-01 13/650 2026-04-02 14:10 by baoball
[考研] 0856初试324分求调剂 +6 想上学求调 2026-04-01 6/300 2026-04-02 11:42 by 星空星月
[考研] 材料调剂 +12 一样YWY 2026-04-01 12/600 2026-04-02 00:21 by 百秒光年
[考研] 085410 一志愿211 22408分数359求调剂 +3 123456789qw 2026-03-31 4/200 2026-04-02 00:06 by 义文wang
[考研] 吉大生物学326分求调剂 +3 sunnyupup 2026-03-31 3/150 2026-03-31 09:28 by longlotian
信息提示
请填处理意见