24小时热门版块排行榜    

查看: 458  |  回复: 7
当前主题已经存档。
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

阳光茶园

禁虫 (职业作家)

本帖内容被屏蔽

已阅   关注TA 给TA发消息 送TA红花 TA的回帖

change0618

铁杆木虫 (著名写手)

方丈大师


wuguocheng(金币+1,VIP+0):谢谢回帖交流 8-13 20:07
isequal(num2str(1.3-0.5),num2str(1.2-0.4))
6楼2009-06-25 10:13:24
已阅   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 8 个回答

hyk2006

木虫 (小有名气)

★ ★ ★
小木虫(金币+0.5):给个红包,谢谢回帖交流
kuhailangyu(金币+2,VIP+0):谢谢回帖交流 6-17 16:50
两个结果都是双精度的,可能有误差

可以比较结果的前n项的值
vpa(0.15-0.10,n)==vpa(0.10-0.05,n)
或者看它们的差是否小于系统精度
(0.15-0.10)-(0.10-0.05)
期待高手给出更好的解释
2楼2009-06-17 16:21:47
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

sitonyl

铁杆木虫 (文坛精英)

★ ★
小木虫(金币+0.5):给个红包,谢谢回帖交流
kuhailangyu(金币+1,VIP+0):谢谢参与,欢迎常来 6-18 11:11
比较怪异。试一下,
0.15-0.1==0.12-0.07
结果是正确的,而
0.15-0.1==0.13-0.08
结果不正确。

[ Last edited by sitonyl on 2009-6-18 at 07:29 ]
zz
3楼2009-06-18 07:25:54
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

mininurse

金虫 (正式写手)

★ ★
小木虫(金币+0.5):给个红包,谢谢回帖交流
sunxiao(金币+1,VIP+0):谢谢参与,欢迎常来 6-19 03:19
应该就是双精度的问题吧
4楼2009-06-18 16:45:58
已阅   关注TA 给TA发消息 送TA红花 TA的回帖
信息提示
请填处理意见