版块导航: 正在加载中...

客户端APP下载

登录注册

应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜

远明

银虫 (小有名气)

应助: 0 (幼儿园)
金币: 1456.5
帖子: 61
在线: 45.1小时
虫号: 1868891
注册: 2012-06-25
性别: GG
专业: 大地测量学

[求助] matlab double型精度与实例不符

format long
0.999823930783478+2455630.50000000-2451545.00000000

既然double型的有效位数是16位（还是15?），那么上式结果至少能精确到:
4086.49982393078 ...
然而实际运行结果却是:
4086.49982393067 ...
在c++里面也有完全相同的“异常”。请问这是怎么回事儿呢？

matlab double型精度与实例不符

matlab double 运算实例.png

» 猜你喜欢

读博已经有5人回复
到新单位后，换了新的研究方向，没有团队，持续积累2区以上论文，能申请到面上吗已经有13人回复
博士申请都是内定的吗？已经有6人回复
之前让一硕士生水了7个发明专利，现在这7个获批发明专利的维护费可从哪儿支出哈？已经有5人回复
博士读完未来一定会好吗已经有29人回复
投稿精细化工已经有4人回复
高职单位投计算机相关的北核或SCI四区期刊推荐，求支招！已经有4人回复
导师想让我从独立一作变成了共一第一已经有9人回复
心脉受损已经有5人回复
Springer期刊投稿求助已经有4人回复

» 本主题相关价值贴推荐，对您同样有帮助:

在Matlab中使用plot（）画double型数据的图已经有4人回复
MATLAB生成BMP格式的图片默认就是索引图像吗？已经有7人回复
matlab ga遗传算法精度已经有7人回复
求助matlab Function 'tensor' is not defined for values of class 'double'. 已经有4人回复
matlab-出错提示Undefined method for input arguments type 'double'. 已经有5人回复
matlab求导数精度问题已经有4人回复
matlab中如何实现高精度计算已经有4人回复
FORTRAN与MATLAB精度比较？已经有8人回复
分享matlab的一些代码（入门贴）已经有19人回复
matlab精度问题已经有4人回复
VS2005下matlab调用已经有8人回复
【求助】MATLAB导入数据精度问题。。。已经有4人回复
【求助】MTALAB导入数据的精度。。。已经有7人回复
【求助】请问下FORTRAN的计算精度能不能达到MATLAB的计算精度高呢？已经有3人回复
【求助】matlab中fsolve解的精度控制【已解决】已经有4人回复

专注与坚持。

1楼2014-08-10 23:37:59

已阅回复此楼关注TA 给TA发消息送TA红花 TA的回帖

sg47

铜虫 (小有名气)

应助: 31 (小学生)
金币: 1504.6
散金: 804
帖子: 243
在线: 310.6小时
虫号: 815305
注册: 2009-07-24
性别: GG
专业: 大地测量学

【答案】应助回帖

计算应该是分两部，先加后减
前面一步的整数部分过长，影响小数点后的精度
不知道对不对哈

2楼2014-08-11 17:00:10

已阅回复此楼关注TA 给TA发消息送TA红花 TA的回帖

dk1013

木虫 (正式写手)

博学EPI: 1
应助: 61 (初中生)
金币: 4285.5
散金: 246
红花: 13
帖子: 988
在线: 3204.6小时
虫号: 980198
注册: 2010-03-23
性别: GG
专业: 凝聚态物性 II ：电子结构

引用回帖:

2楼: Originally posted by sg47 at 2014-08-11 17:00:10
计算应该是分两部，先加后减
前面一步的整数部分过长，影响小数点后的精度
不知道对不对哈

同意。
很大的一个浮点数加很小的一个浮点数，在极端情况会出现大数吃小数的情况。
这里的话，如果先做这个加法会损失一些小小数点的。

到得还来别无事庐山烟雨浙江潮

3楼2014-08-11 17:31:40

已阅回复此楼关注TA 给TA发消息送TA红花 TA的回帖

相关版块跳转我要订阅楼主远明的主题更新