24小时热门版块排行榜    

查看: 893  |  回复: 4
【悬赏金币】回答本帖问题,作者H518616171将赠送您 10 个金币
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

H518616171

新虫 (初入文坛)

[求助] 大佬帮忙解答一下误差问题已有2人参与

a=10000,b=10000.1,c=b-a,让计算机输出c/0.1-1,为什么我用电脑算出来是10^-3,别的同学用c++算出来是10^-12,为什么我的误差这么大?

发自小木虫IOS客户端
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

flyingair007

银虫 (正式写手)

检查一下变量类型
是double还是float
5楼2019-12-05 23:35:49
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 5 个回答

jjdg

版主 (知名作家)

优秀版主

【答案】应助回帖

感谢参与,应助指数 +1
正常的,这个跟你用的程序和机器的cpu有关,不同cpu因为指令有差异,所以在精确位数上是不同的,你就用“a=10000,b=10000.1,c=b-a”这3行,看看c等于多少就清楚了
努力学习!以正当途径!获得需要的知识!
2楼2019-09-16 19:35:46
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

bcsnow

铁杆木虫 (著名写手)

【答案】应助回帖

主要是和你们所选数据类型的精度有关,和是否c++无关(不知道你是用什么算的)。比如你用4字节数据类型(32位,c++可能是float或者single,记不清了),除去符号位和指数位,剩下的尾数用20多位来表示。那么精度就是1/2^20,小数点后6-7位,去掉前面10000,误差在小数点后3位合理。如果用8字节,那么精度可能是1/2^50,即小数点后15-6位,去掉前面10000,误差在小数点后12位也合理。
3楼2019-10-28 12:49:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

chuntao118

新虫 (著名写手)

4楼2019-11-22 08:30:30
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
不应助 确定回帖应助 (注意:应助才可能被奖励,但不允许灌水,必须填写15个字符以上)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 等待会评 等待公示 +7 夏天的Tiffany 2024-06-06 9/450 2024-06-08 10:12 by 阿凡达C
[基金申请] 年年想打听,年年打听不到。。 +20 hdzw9071 2024-06-03 28/1400 2024-06-08 09:52 by 潇湘之迷
[教师之家] 统计一下:硕士毕业答辩后的谢师宴是学生出钱,还是老师出钱? +25 苏东坡二世 2024-06-02 30/1500 2024-06-08 09:28 by 晓晓爱翠翠
[基金申请] 蹲一个6月7号江苏省青基公示 +15 yulb1005 2024-06-06 24/1200 2024-06-08 08:47 by include_love
[基金申请] 2024杰青和万人领军什么时候会评 +10 墨香琴韵 2024-06-02 10/500 2024-06-07 22:41 by 一上官婉儿
[教师之家] 郑雅婷工作后被辞退无业中,于是报复硕导,证据不足失败后可能报复父母 +14 苏东坡二世 2024-06-05 19/950 2024-06-07 16:29 by Quakerbird
[论文投稿] 一般很空的审稿意见大家一般是怎么回复的 +4 mage9162 2024-06-05 5/250 2024-06-07 06:20 by mage9162
[高分子] 懂的都来说说看,这是啥情况啊 +3 中国学院 2024-06-04 3/150 2024-06-06 23:55 by 骆驼刺
[基金申请] B口yq答辩 +5 学员qYccD0 2024-06-05 6/300 2024-06-06 22:39 by 2673228047
[论文投稿] 电化学投稿 +4 爱安沐梅梅 2024-06-06 14/700 2024-06-06 21:51 by 爱安沐梅梅
[基金申请] 中华学术外译去年5.5出的,今年咋回事还不出 +3 Lynn212 2024-06-04 5/250 2024-06-06 16:56 by 蚂蚁游泳
[论文投稿] 论文大修语言问题 +6 ayyjy 2024-06-05 7/350 2024-06-06 16:19 by p-cloud
[论文投稿] 被预警的期刊还能再投嘛? 30+7 779931956 2024-06-04 9/450 2024-06-06 16:08 by 学员XxVJy5
[硕博家园] 国家杰青郑世军教授 免疫学博士招生 +3 刘芮伶 2024-06-01 3/150 2024-06-06 11:08 by 小鱼吃肉
[基金申请] 青拔有答辩通知了吗? +6 wuyongxia 2024-06-04 8/400 2024-06-05 22:35 by xiaoyidao129
[基金申请] 省基金申请里有一条:近三年申请国家、省自然科学基金项目情况 10+3 asdder 2024-06-03 4/200 2024-06-05 22:34 by xiaoyidao129
[论文投稿] 不要投这个杂志Journal of materials science +5 蛋蛋198956 2024-06-04 5/250 2024-06-05 18:18 by nandi2212
[基金申请] 各位,F01口的YQ有收到通知的吗? +3 zmm891258 2024-06-05 5/250 2024-06-05 17:06 by godlovewho
[论文投稿] chinese journal of chemical engineering期刊参考文献格式 15+3 LXXXDL 2024-06-04 3/150 2024-06-05 11:00 by nono2009
[考博] 求25博导,金属增材制造方向 +3 22机械 2024-06-01 3/150 2024-06-02 11:17 by Napoleonsky
信息提示
请填处理意见