| 查看: 1877 | 回复: 2 | |||
[求助]
matlab double型精度与实例不符
|
|
format long 0.999823930783478+2455630.50000000-2451545.00000000 既然double型的有效位数是16位（还是15?），那么上式结果至少能精确到: 4086.49982393078 ... 然而实际运行结果却是: 4086.49982393067 ... 在c++里面也有完全相同的“异常”。请问这是怎么回事儿呢？  matlab double 运算实例.png |
回复此楼» 猜你喜欢
谈谈两天一夜的“延安行”
已经有15人回复
-
EST投稿状态问题
已经有6人回复
-
职称评审没过，求安慰
已经有15人回复
-
垃圾破二本职称评审标准
已经有11人回复
-
投稿Elsevier的Neoplasia杂志，到最后选publishing options时页面空白，不能完成投稿
已经有16人回复
-
毕业后当辅导员了，天天各种学生超烦
已经有4人回复
-
聘U V热熔胶研究人员
已经有10人回复
-
求助文献
已经有3人回复
-
投稿返修后收到这样的回复，还有希望吗
已经有8人回复
-
三无产品还有机会吗
已经有6人回复
» 本主题相关价值贴推荐，对您同样有帮助:
- 在Matlab中使用plot（）画double型数据的图
已经有4人回复
- MATLAB生成BMP格式的图片默认就是索引图像吗？
已经有7人回复
- matlab ga遗传算法 精度
已经有7人回复
- 求助matlab Function 'tensor' is not defined for values of class 'double'.
已经有4人回复
- matlab-出错提示Undefined method for input arguments type 'double'.
已经有5人回复
- matlab求导数精度问题
已经有4人回复
- matlab中如何实现高精度计算
已经有4人回复
- FORTRAN与MATLAB精度比较？
已经有8人回复
- 分享matlab的一些代码（入门贴）
已经有19人回复
- matlab精度问题
已经有4人回复
- VS2005下matlab调用
已经有8人回复
- 【求助】MATLAB导入数据精度问题。。。
已经有4人回复
- 【求助】MTALAB导入数据的精度。。。
已经有7人回复
- 【求助】请问下FORTRAN的计算精度能不能达到MATLAB的计算精度高呢？
已经有3人回复
- 【求助】matlab中fsolve解的精度控制【已解决】
已经有4人回复
sg47
铜虫 (小有名气)
- 应助: 31 (小学生)
- 金币: 1504.6
- 散金: 804
- 帖子: 243
- 在线: 310.6小时
- 虫号: 815305
- 注册: 2009-07-24
- 性别: GG
- 专业: 大地测量学
【答案】应助回帖
dk1013
木虫 (正式写手)
- 博学EPI: 1
- 应助: 61 (初中生)
- 金币: 4285.5
- 散金: 246
- 红花: 13
- 帖子: 988
- 在线: 3204.6小时
- 虫号: 980198
- 注册: 2010-03-23
- 性别: GG
- 专业: 凝聚态物性 II ：电子结构