| 查看: 1887 | 回复: 2 | ||
[求助]
matlab double型精度与实例不符
|
|
format long 0.999823930783478+2455630.50000000-2451545.00000000 既然double型的有效位数是16位（还是15?），那么上式结果至少能精确到: 4086.49982393078 ... 然而实际运行结果却是: 4086.49982393067 ... 在c++里面也有完全相同的“异常”。请问这是怎么回事儿呢？  matlab double 运算实例.png |
回复此楼» 猜你喜欢
对氯苯硼酸纯化
已经有3人回复
-
求助:我三月中下旬出站，青基依托单位怎么办？
已经有12人回复
-
不自信的我
已经有12人回复
-
假如你的研究生提出不合理要求
已经有5人回复
-
所感
已经有4人回复
-
论文终于录用啦！满足毕业条件了
已经有28人回复
-
要不要辞职读博？
已经有7人回复
-
北核录用
已经有3人回复
-
实验室接单子
已经有3人回复
-
磺酰氟产物，毕不了业了！
已经有8人回复
» 本主题相关价值贴推荐，对您同样有帮助:
- 在Matlab中使用plot（）画double型数据的图
已经有4人回复
- MATLAB生成BMP格式的图片默认就是索引图像吗？
已经有7人回复
- matlab ga遗传算法 精度
已经有7人回复
- 求助matlab Function 'tensor' is not defined for values of class 'double'.
已经有4人回复
- matlab-出错提示Undefined method for input arguments type 'double'.
已经有5人回复
- matlab求导数精度问题
已经有4人回复
- matlab中如何实现高精度计算
已经有4人回复
- FORTRAN与MATLAB精度比较？
已经有8人回复
- 分享matlab的一些代码（入门贴）
已经有19人回复
- matlab精度问题
已经有4人回复
- VS2005下matlab调用
已经有8人回复
- 【求助】MATLAB导入数据精度问题。。。
已经有4人回复
- 【求助】MTALAB导入数据的精度。。。
已经有7人回复
- 【求助】请问下FORTRAN的计算精度能不能达到MATLAB的计算精度高呢？
已经有3人回复
- 【求助】matlab中fsolve解的精度控制【已解决】
已经有4人回复
sg47
铜虫 (小有名气)
- 应助: 31 (小学生)
- 金币: 1504.6
- 散金: 804
- 帖子: 243
- 在线: 310.6小时
- 虫号: 815305
- 注册: 2009-07-24
- 性别: GG
- 专业: 大地测量学
2楼2014-08-11 17:00:10
dk1013
木虫 (正式写手)
- 博学EPI: 1
- 应助: 61 (初中生)
- 金币: 4285.5
- 散金: 246
- 红花: 13
- 帖子: 988
- 在线: 3204.6小时
- 虫号: 980198
- 注册: 2010-03-23
- 性别: GG
- 专业: 凝聚态物性 II ：电子结构
3楼2014-08-11 17:31:40