24小时热门版块排行榜    

北京石油化工学院2026年研究生招生接收调剂公告
查看: 1914  |  回复: 2

远明

银虫 (小有名气)

[求助] matlab double型精度与实例不符

format long
0.999823930783478+2455630.50000000-2451545.00000000

既然double型的有效位数是16位(还是15?),那么上式结果至少能精确到:
4086.49982393078 ...
然而实际运行结果却是:
4086.49982393067 ...
在c++里面也有完全相同的“异常”。请问这是怎么回事儿呢?

matlab double型精度与实例不符
matlab double 运算实例.png
回复此楼

» 猜你喜欢

» 本主题相关价值贴推荐,对您同样有帮助:

专注与坚持。
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

sg47

铜虫 (小有名气)

【答案】应助回帖

计算应该是分两部,先加后减
前面一步的整数部分过长,影响小数点后的精度
不知道对不对哈
2楼2014-08-11 17:00:10
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

dk1013

木虫 (正式写手)

引用回帖:
2楼: Originally posted by sg47 at 2014-08-11 17:00:10
计算应该是分两部,先加后减
前面一步的整数部分过长,影响小数点后的精度
不知道对不对哈

同意。
很大的一个浮点数加很小的一个浮点数,在极端情况会出现大数吃小数的情况。
这里的话,如果先做这个加法会损失一些小小数点的。
到得还来别无事 庐山烟雨浙江潮
3楼2014-08-11 17:31:40
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 远明 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 297求调剂 +8 田洪有 2026-03-26 8/400 2026-03-29 10:29 by 唐沐儿
[考研] 349求调剂 +5 李木子啊哈哈 2026-03-25 5/250 2026-03-29 10:22 by 唐沐儿
[考研] 305求调剂 +8 RuiFairyrui 2026-03-28 8/400 2026-03-29 08:22 by fmesaito
[考研] 调剂求院校招收 +6 鹤鲸鸽 2026-03-28 6/300 2026-03-29 08:15 by fmesaito
[考研] 0703化学 +11 妮妮ninicgb 2026-03-27 11/550 2026-03-29 06:45 by 544594351
[硕博家园] 求调剂 330分 085600材料与化工 +3 gqhhh 2026-03-22 3/150 2026-03-29 00:52 by 544594351
[考研] 22408 359分调剂 +4 Qshers 2026-03-27 5/250 2026-03-28 21:26 by zhq0425
[考研] 283求调剂 +3 A child 2026-03-28 3/150 2026-03-28 15:41 by ms629
[考研] 286求调剂 +12 PolarBear11 2026-03-26 12/600 2026-03-28 12:14 by zllcz
[考研] 一志愿南昌大学324求调剂 +7 hanamiko 2026-03-27 7/350 2026-03-28 09:56 by 李上岸0921
[考研] 求调剂推荐 材料 304 +15 荷包蛋hyj 2026-03-26 15/750 2026-03-28 04:13 by fmesaito
[考研] 279 分 求调剂 +4 睡个好觉_16 2026-03-24 4/200 2026-03-27 15:05 by 醉在风里
[考研] 315调剂 +4 0860求调剂 2026-03-26 5/250 2026-03-27 11:23 by wangjy2002
[考研] 317求调剂 +7 蛋黄咸肉粽 2026-03-26 7/350 2026-03-27 02:29 by fmesaito
[考研] 材料调剂 5+4 想要一壶桃花水 2026-03-25 10/500 2026-03-26 19:56 by 不吃魚的貓
[考研] 一志愿南航 335分 | 0856材料化工 | GPA 4.07 | 有科研经历 +6 cccchenso 2026-03-23 6/300 2026-03-25 22:25 by 544594351
[考研] 300分,材料,求调剂,英一数二 +5 超赞的 2026-03-24 5/250 2026-03-24 21:07 by 星空星月
[考研] 一志愿北化315 求调剂 +3 akrrain 2026-03-24 3/150 2026-03-24 19:35 by 了了了了。。
[考研] 一志愿南航材料专317分求调剂 +5 炸呀炸呀炸薯条 2026-03-23 5/250 2026-03-24 16:52 by 星空星月
[考研] 284求调剂 +3 yanzhixue111 2026-03-23 6/300 2026-03-23 22:58 by pswait
信息提示
请填处理意见