24小时热门版块排行榜    

查看: 949  |  回复: 3
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

493508923

铁虫 (初入文坛)

[求助] 求逆矩阵数据溢出问题,急急急!求高手指点

我编写了一个阻尼二乘法模拟波速的程序,迭代了四次就显示数据溢出了,经查看发现数据溢出发生在矩阵求逆的子程序处,被求逆的矩阵是36*36的矩阵,矩阵中的大多元素都是-11次方左右的数量级,请高手帮忙分析下这种溢出问题该怎么解决。急急急!!
回复此楼

» 猜你喜欢

» 本主题相关价值贴推荐,对您同样有帮助:

每天进步一点点
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

493508923

铁虫 (初入文坛)

引用回帖:
2楼: Originally posted by jjdg at 2012-08-22 03:27:30
修改变量的数据类型,用大的

谢谢,不过你是说将变量变成精度更高的,还是申请更大的空间啊?
每天进步一点点
3楼2012-08-22 12:41:51
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 493508923 的主题更新
信息提示
请填处理意见