应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

CyRhmU.jpeg
小木虫论坛-学术科研互动平台 » 计算模拟区 » 程序语言 » Fortran » 求逆矩阵数据溢出问题，急急急！求高手指点
41/1返回列表
查看: 941  |  回复: 3
只看楼主@他人 存档 新回复提醒 (忽略) 收藏    在APP中查看

493508923

铁虫 (初入文坛)

[求助] 求逆矩阵数据溢出问题，急急急！求高手指点

我编写了一个阻尼二乘法模拟波速的程序，迭代了四次就显示数据溢出了，经查看发现数据溢出发生在矩阵求逆的子程序处，被求逆的矩阵是36*36的矩阵，矩阵中的大多元素都是-11次方左右的数量级，请高手帮忙分析下这种溢出问题该怎么解决。急急急！！
回复此楼

» 猜你喜欢

» 本主题相关价值贴推荐，对您同样有帮助:
每天进步一点点
1楼2012-08-21 22:29:53
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

jjdg

版主 (知名作家)

优秀版主

【答案】应助回帖

★
感谢参与，应助指数 +1
xzhdty: 金币+1, 谢谢jjdg斑斑 2012-08-22 08:23:25
修改变量的数据类型，用大的
赞一下(1人) 回复此楼
努力学习！以正当途径！获得需要的知识！
2楼2012-08-22 03:27:30
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

493508923

铁虫 (初入文坛)
引用回帖:
2楼: Originally posted by jjdg at 2012-08-22 03:27:30
修改变量的数据类型，用大的

谢谢，不过你是说将变量变成精度更高的，还是申请更大的空间啊?
赞一下 回复此楼
每天进步一点点
3楼2012-08-22 12:41:51
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

jjdg

版主 (知名作家)

优秀版主

【答案】应助回帖

你都自己写程序了，还不了解数据类型？整型换单精，单精换双精，就这样改不就ok了
赞一下 回复此楼
努力学习！以正当途径！获得需要的知识！
4楼2012-08-22 14:19:43
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 493508923 的主题更新
41/1返回列表
普通表情 龙 兔 虎 猫
信息提示
关闭
请填处理意见
关闭