24小时热门版块排行榜    

查看: 631  |  回复: 7
当前主题已经存档。

阳光茶园

禁虫 (职业作家)

本帖内容被屏蔽

已阅   关注TA 给TA发消息 送TA红花 TA的回帖

hyk2006

木虫 (小有名气)

★ ★ ★
小木虫(金币+0.5):给个红包,谢谢回帖交流
kuhailangyu(金币+2,VIP+0):谢谢回帖交流 6-17 16:50
两个结果都是双精度的,可能有误差

可以比较结果的前n项的值
vpa(0.15-0.10,n)==vpa(0.10-0.05,n)
或者看它们的差是否小于系统精度
(0.15-0.10)-(0.10-0.05)
期待高手给出更好的解释
2楼2009-06-17 16:21:47
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

sitonyl

铁杆木虫 (文坛精英)

★ ★
小木虫(金币+0.5):给个红包,谢谢回帖交流
kuhailangyu(金币+1,VIP+0):谢谢参与,欢迎常来 6-18 11:11
比较怪异。试一下,
0.15-0.1==0.12-0.07
结果是正确的,而
0.15-0.1==0.13-0.08
结果不正确。

[ Last edited by sitonyl on 2009-6-18 at 07:29 ]
zz
3楼2009-06-18 07:25:54
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

mininurse

金虫 (正式写手)

★ ★
小木虫(金币+0.5):给个红包,谢谢回帖交流
sunxiao(金币+1,VIP+0):谢谢参与,欢迎常来 6-19 03:19
应该就是双精度的问题吧
4楼2009-06-18 16:45:58
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

sitonyl

铁杆木虫 (文坛精英)

★
kuhailangyu(金币+1,VIP+0):谢谢回帖交流 6-20 09:28
试验了一下,是计算精度的问题。知道了这个,解决方法就比较简单了。
zz
5楼2009-06-19 22:57:30
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

change0618

铁杆木虫 (著名写手)

方丈大师

★
wuguocheng(金币+1,VIP+0):谢谢回帖交流 8-13 20:07
isequal(num2str(1.3-0.5),num2str(1.2-0.4))
6楼2009-06-25 10:13:24
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

yf_appe

木虫 (小有名气)

★
小木虫(金币+0.5):给个红包,谢谢回帖交流
精度问题还是要好好研究,我在读入EXCEL数据的时候也遇到类似问题,整个文件读入的时候,系统自动将所有数据转换成了科学计数法,本来有用需要的数据被四舍五入了,但是只读取其中某一列的话,数据就是正确的!
所以说还是把C语言的书拿出来把精度这一节好好研究一下吧
7楼2009-08-11 22:27:41
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

smy1982

木虫 (正式写手)

恩,学习了
如果你曾歌颂黎明,那么也请你拥抱黑夜。
8楼2009-08-13 19:27:25
已阅   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 阳光茶园 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +3 xvJS1BYDxvBS 2026-10-31 6/300 2026-10-31 23:23 by YXM1FDCSE8Bn
[硕博家园] 售SCI一区T0P文章,我:8.O55.1.O.54,科目全,可十急 +3 xvJS1BYDxvBS 2026-10-31 7/350 2026-10-31 23:18 by YXM1FDCSE8Bn
[考研] 售SCI一区T0P文章,我:8.O.55.1.O54,科目全,可伽急 +3 1uaZt2kAZj2S 2026-10-31 6/300 2026-10-31 23:17 by YXM1FDCSE8Bn
[博后之家] 售SCI一区文章,我:8O5.5.1.O5.4,科目全,可伽急 +3 1uaZt2kAZj2S 2026-10-31 5/250 2026-10-31 23:10 by YXM1FDCSE8Bn
[找工作] 售一区SCI文章T0P,我:8O.551.O54,科目全,可十急 +3 1uaZt2kAZj2S 2026-10-31 4/200 2026-10-31 23:10 by YXM1FDCSE8Bn
[硕博家园] 售SCI一区T0P文章,我:8O.55.1.O.54,科目全,可伽急 +3 X5bHxOULxFqb 2026-10-30 14/700 2026-10-31 22:46 by YXM1FDCSE8Bn
[论文投稿] 售SCI文章,我:8O.5.5.1O.54,科目全,可十急 +4 X5bHxOULxFqb 2026-10-30 24/1200 2026-10-31 22:39 by YXM1FDCSE8Bn
[找工作] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +3 1uaZt2kAZj2S 2026-10-31 4/200 2026-10-31 21:54 by YXM1FDCSE8Bn
[考博] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +3 1uaZt2kAZj2S 2026-10-31 4/200 2026-10-31 21:51 by YXM1FDCSE8Bn
[公派出国] 售SCI文章,我:8O5.5.1.O.54,科目齐全,可+急 +3 1uaZt2kAZj2S 2026-10-31 4/200 2026-10-31 21:51 by YXM1FDCSE8Bn
[考研] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +3 1uaZt2kAZj2S 2026-10-30 10/500 2026-10-31 21:41 by YXM1FDCSE8Bn
[基金申请] 售SCI一区T0P文章,我:8.O.55.1.O.54,科目齐全,可+急 +3 1uaZt2kAZj2S 2026-10-30 9/450 2026-10-31 21:34 by YXM1FDCSE8Bn
[考博] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +3 1uaZt2kAZj2S 2026-10-30 11/550 2026-10-31 21:25 by YXM1FDCSE8Bn
[教师之家] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +3 X5bHxOULxFqb 2026-10-30 13/650 2026-10-31 17:12 by hKe7U1kad5Sg
[基金申请] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +4 X5bHxOULxFqb 2026-10-30 18/900 2026-10-31 17:05 by hKe7U1kad5Sg
[考博] 2027博士申请-临床检验诊断学、病原生物学、微生物方向 50+3 yyh@ 2026-10-28 4/200 2026-10-31 12:47 by 可淡不可忘
[硕博家园] 越来越担心硕士毕业后没有竞争力了 +8 zuesli 2026-10-27 14/700 2026-10-30 22:44 by 好运连连公主
[硕博家园] 申博自荐 2篇一区TOP+1篇EI+2公开发明专利 2027博士申请 +3 小小阿光 2026-10-27 3/150 2026-10-29 23:56 by 起风了的快乐
[文学芳草园] 闲聊 +3 myrtle 2026-10-25 6/300 2026-10-29 15:28 by myrtle
[考博] 申博求助 20+3 Katrinae 2026-10-26 4/200 2026-10-27 09:56 by 北京莱茵编辑
信息提示
请填处理意见