| 查看: 1911 | 回复: 2 | |||
[求助]
matlab double型精度与实例不符
|
|
format long 0.999823930783478+2455630.50000000-2451545.00000000 既然double型的有效位数是16位（还是15?），那么上式结果至少能精确到: 4086.49982393078 ... 然而实际运行结果却是: 4086.49982393067 ... 在c++里面也有完全相同的“异常”。请问这是怎么回事儿呢？  matlab double 运算实例.png |
回复此楼» 猜你喜欢
315分求调剂
已经有3人回复
-
材料与化工304求B区调剂
已经有3人回复
-
一志愿天津大学339材料与化工求调剂
已经有3人回复
-
297求调剂
已经有3人回复
-
一志愿北京化工大学材料与化工（085600）296求调剂
已经有3人回复
-
打过很多竞赛，085406控制工程300分，求调剂
已经有3人回复
-
北京林业大学硕导招生广告
已经有5人回复
-
一志愿北京化工大学材料与化工 264分各科过A区国家线
已经有4人回复
-
一志愿 西北大学 总分282 英语一62 求调剂
已经有4人回复
-
274求调剂
已经有15人回复
» 本主题相关价值贴推荐，对您同样有帮助:
- 在Matlab中使用plot（）画double型数据的图
已经有4人回复
- MATLAB生成BMP格式的图片默认就是索引图像吗？
已经有7人回复
- matlab ga遗传算法 精度
已经有7人回复
- 求助matlab Function 'tensor' is not defined for values of class 'double'.
已经有4人回复
- matlab-出错提示Undefined method for input arguments type 'double'.
已经有5人回复
- matlab求导数精度问题
已经有4人回复
- matlab中如何实现高精度计算
已经有4人回复
- FORTRAN与MATLAB精度比较？
已经有8人回复
- 分享matlab的一些代码（入门贴）
已经有19人回复
- matlab精度问题
已经有4人回复
- VS2005下matlab调用
已经有8人回复
- 【求助】MATLAB导入数据精度问题。。。
已经有4人回复
- 【求助】MTALAB导入数据的精度。。。
已经有7人回复
- 【求助】请问下FORTRAN的计算精度能不能达到MATLAB的计算精度高呢？
已经有3人回复
- 【求助】matlab中fsolve解的精度控制【已解决】
已经有4人回复
sg47
铜虫 (小有名气)
- 应助: 31 (小学生)
- 金币: 1504.6
- 散金: 804
- 帖子: 243
- 在线: 310.6小时
- 虫号: 815305
- 注册: 2009-07-24
- 性别: GG
- 专业: 大地测量学
2楼2014-08-11 17:00:10
dk1013
木虫 (正式写手)
- 博学EPI: 1
- 应助: 61 (初中生)
- 金币: 4285.5
- 散金: 246
- 红花: 13
- 帖子: 988
- 在线: 3204.6小时
- 虫号: 980198
- 注册: 2010-03-23
- 性别: GG
- 专业: 凝聚态物性 II ：电子结构
3楼2014-08-11 17:31:40
