24小时热门版块排行榜    

查看: 1239  |  回复: 12

天天come

银虫 (著名写手)

引用回帖:
10楼: Originally posted by dhonghui at 2014-09-23 14:23:03
matlab 有单精度、双精度的吧?双精度是16位。
如果内存太小,装不下矩阵,还可以使用short格式。
1.999999999999999999999999x02 matlab显示的时候会自动四舍五入,但是数据本身不变。
这个数和200没什么区别, ...

哦,谢谢了,关键是我们是搞数值计算的,对这个精度要求很高,不知道这样忽略了行不行?
为了梦想,我们一起奋斗
11楼2014-09-23 17:17:51
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

dhonghui

银虫 (小有名气)

引用回帖:
11楼: Originally posted by 天天come at 2014-09-23 17:17:51
哦,谢谢了,关键是我们是搞数值计算的,对这个精度要求很高,不知道这样忽略了行不行?...

原本数值计算,数值误差就是不可避免的。只要误差不累积放大就没问题。
一般问题不大。
12楼2014-09-24 09:24:06
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

天天come

银虫 (著名写手)

引用回帖:
12楼: Originally posted by dhonghui at 2014-09-24 09:24:06
原本数值计算,数值误差就是不可避免的。只要误差不累积放大就没问题。
一般问题不大。...

好的,谢谢了
为了梦想,我们一起奋斗
13楼2014-09-24 21:54:32
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 天天come 的主题更新
信息提示
请填处理意见