24小时热门版块排行榜    

北京石油化工学院2026年研究生招生接收调剂公告
查看: 499  |  回复: 7
当前主题已经存档。
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

阳光茶园

禁虫 (职业作家)

本帖内容被屏蔽

» 猜你喜欢

已阅   关注TA 给TA发消息 送TA红花 TA的回帖

yf_appe

木虫 (小有名气)


小木虫(金币+0.5):给个红包,谢谢回帖交流
精度问题还是要好好研究,我在读入EXCEL数据的时候也遇到类似问题,整个文件读入的时候,系统自动将所有数据转换成了科学计数法,本来有用需要的数据被四舍五入了,但是只读取其中某一列的话,数据就是正确的!
所以说还是把C语言的书拿出来把精度这一节好好研究一下吧
7楼2009-08-11 22:27:41
已阅   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 8 个回答

hyk2006

木虫 (小有名气)

★ ★ ★
小木虫(金币+0.5):给个红包,谢谢回帖交流
kuhailangyu(金币+2,VIP+0):谢谢回帖交流 6-17 16:50
两个结果都是双精度的,可能有误差

可以比较结果的前n项的值
vpa(0.15-0.10,n)==vpa(0.10-0.05,n)
或者看它们的差是否小于系统精度
(0.15-0.10)-(0.10-0.05)
期待高手给出更好的解释
2楼2009-06-17 16:21:47
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

sitonyl

铁杆木虫 (文坛精英)

★ ★
小木虫(金币+0.5):给个红包,谢谢回帖交流
kuhailangyu(金币+1,VIP+0):谢谢参与,欢迎常来 6-18 11:11
比较怪异。试一下,
0.15-0.1==0.12-0.07
结果是正确的,而
0.15-0.1==0.13-0.08
结果不正确。

[ Last edited by sitonyl on 2009-6-18 at 07:29 ]
zz
3楼2009-06-18 07:25:54
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

mininurse

金虫 (正式写手)

★ ★
小木虫(金币+0.5):给个红包,谢谢回帖交流
sunxiao(金币+1,VIP+0):谢谢参与,欢迎常来 6-19 03:19
应该就是双精度的问题吧
4楼2009-06-18 16:45:58
已阅   关注TA 给TA发消息 送TA红花 TA的回帖
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 材料调剂 +10 壹贰贰亿 2026-04-04 10/500 2026-04-05 13:59 by imissbao
[考研] 313求调剂 +5 海日海日 2026-04-04 7/350 2026-04-05 13:58 by imissbao
[考研] 0703化学调剂325分 +9 15771691647 2026-04-04 9/450 2026-04-05 11:39 by 猪会飞
[考研] 283求调剂 +10 A child 2026-04-04 10/500 2026-04-05 08:22 by qlm5820
[考研] 320求调剂 +3 一样圆 2026-04-04 3/150 2026-04-04 22:29 by 啵啵啵0119
[考研] 0703求调剂383分 +8 W55j 2026-04-03 8/400 2026-04-04 20:09 by xhai2011
[考研] 309求调剂 +4 快乐的小白鸽 2026-04-04 5/250 2026-04-04 15:55 by cql1109
[考研] 317分 一志愿江南大学 化学工程学硕 求调剂 +6 YinTai 2026-04-03 6/300 2026-04-03 22:30 by 无际的草原
[考研] 350一志愿北京航空航天大学08500材料科学与工程求调剂 +5 kjnasfss 2026-04-03 5/250 2026-04-03 22:29 by 无际的草原
[考研] 322求调剂 +4 FZAC123 2026-04-03 4/200 2026-04-03 20:55 by zhq0425
[考研] 081200-11408-276学硕求调剂 +5 崔wj 2026-04-03 5/250 2026-04-03 15:06 by arrow8852
[考研] 求调剂 +9 akdhjs 2026-03-31 11/550 2026-04-03 13:32 by akdhjs
[考研] 283求调剂 +3 jiouuu 2026-04-03 4/200 2026-04-03 13:28 by jiouuu
[考研] 0703化学 +7 goldtt 2026-04-02 9/450 2026-04-03 09:36 by 蓝云思雨
[考研] 调剂 +3 osbbx 2026-04-02 3/150 2026-04-03 07:47 by cc8418
[考研] 283求调剂 +3 jiouuu 2026-04-02 4/200 2026-04-02 14:08 by 哒哒哒呱呱呱
[考研] 复试调剂 +7 双马尾痞老板2 2026-03-31 7/350 2026-03-31 19:49 by Dyhoer
[考研] 江苏苏北高校诚邀调剂同学 +3 zzll406 2026-03-31 3/150 2026-03-31 16:54 by 及时行乐fan
[考研] 一志愿浙江大学工科动力工程370,数一121,专业课135,现在能去哪里 +3 080700调剂 2026-03-30 4/200 2026-03-31 12:00 by KLMY666
[考研] 083000环境科学与工程调剂,总分281 +4 橙子(胜意) 2026-03-30 4/200 2026-03-31 00:44 by Linzejun
信息提示
请填处理意见