10楼: Originally posted by dhonghui at 2014-09-23 14:23:03
matlab 有单精度、双精度的吧？双精度是16位。
如果内存太小，装不下矩阵，还可以使用short格式。
1.999999999999999999999999x02 matlab显示的时候会自动四舍五入，但是数据本身不变。
这个数和200没什么区别， ...

11楼: Originally posted by 天天come at 2014-09-23 17:17:51
哦，谢谢了，关键是我们是搞数值计算的，对这个精度要求很高，不知道这样忽略了行不行？...

12楼: Originally posted by dhonghui at 2014-09-24 09:24:06
原本数值计算，数值误差就是不可避免的。只要误差不累积放大就没问题。
一般问题不大。...