版块导航: 正在加载中...

客户端APP下载

调剂小程序

登录注册

应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜

远明

银虫 (小有名气)

应助: 0 (幼儿园)
金币: 1456.5
帖子: 61
在线: 45.1小时
虫号: 1868891
注册: 2012-06-25
性别: GG
专业: 大地测量学

[求助] matlab double型精度与实例不符

format long
0.999823930783478+2455630.50000000-2451545.00000000

既然double型的有效位数是16位（还是15?），那么上式结果至少能精确到:
4086.49982393078 ...
然而实际运行结果却是:
4086.49982393067 ...
在c++里面也有完全相同的“异常”。请问这是怎么回事儿呢？

matlab double型精度与实例不符

matlab double 运算实例.png

» 猜你喜欢

依托企业入选了国家启明计划青年人才。有无高校可以引进的。已经有13人回复
AI 太可怕了，写基金时，提出想法，直接生成的文字比自己想得深远，还有科学性已经有11人回复
表哥与省会女结婚，父母去帮带孩子被省会女气回家生重病了已经有9人回复
同年申请2项不同项目，第1个项目里不写第2个项目的信息，可以吗已经有10人回复
依托企业入选了国家启明计划青年人才。有无高校可以引进的。已经有11人回复

» 本主题相关价值贴推荐，对您同样有帮助:

在Matlab中使用plot（）画double型数据的图已经有4人回复
MATLAB生成BMP格式的图片默认就是索引图像吗？已经有7人回复
matlab ga遗传算法精度已经有7人回复
求助matlab Function 'tensor' is not defined for values of class 'double'. 已经有4人回复
matlab-出错提示Undefined method for input arguments type 'double'. 已经有5人回复
matlab求导数精度问题已经有4人回复
matlab中如何实现高精度计算已经有4人回复
FORTRAN与MATLAB精度比较？已经有8人回复
分享matlab的一些代码（入门贴）已经有19人回复
matlab精度问题已经有4人回复
VS2005下matlab调用已经有8人回复
【求助】MATLAB导入数据精度问题。。。已经有4人回复
【求助】MTALAB导入数据的精度。。。已经有7人回复
【求助】请问下FORTRAN的计算精度能不能达到MATLAB的计算精度高呢？已经有3人回复
【求助】matlab中fsolve解的精度控制【已解决】已经有4人回复

专注与坚持。

1楼 2014-08-10 23:37:59

已阅回复此楼关注TA 给TA发消息送TA红花 TA的回帖

sg47

铜虫 (小有名气)

应助: 31 (小学生)
金币: 1504.6
散金: 804
帖子: 243
在线: 310.6小时
虫号: 815305
注册: 2009-07-24
性别: GG
专业: 大地测量学

【答案】应助回帖

计算应该是分两部，先加后减
前面一步的整数部分过长，影响小数点后的精度
不知道对不对哈

2楼2014-08-11 17:00:10

已阅回复此楼关注TA 给TA发消息送TA红花 TA的回帖

dk1013

木虫 (正式写手)

博学EPI: 1
应助: 61 (初中生)
金币: 4285.5
散金: 246
红花: 13
帖子: 988
在线: 3204.6小时
虫号: 980198
注册: 2010-03-23
性别: GG
专业: 凝聚态物性 II ：电子结构

引用回帖:

2楼: Originally posted by sg47 at 2014-08-11 17:00:10
计算应该是分两部，先加后减
前面一步的整数部分过长，影响小数点后的精度
不知道对不对哈

同意。
很大的一个浮点数加很小的一个浮点数，在极端情况会出现大数吃小数的情况。
这里的话，如果先做这个加法会损失一些小小数点的。

到得还来别无事庐山烟雨浙江潮

3楼2014-08-11 17:31:40

已阅回复此楼关注TA 给TA发消息送TA红花 TA的回帖

相关版块跳转我要订阅楼主远明的主题更新