24小时热门版块排行榜    

查看: 900  |  回复: 4
【悬赏金币】回答本帖问题,作者H518616171将赠送您 10 个金币
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

H518616171

新虫 (初入文坛)

[求助] 大佬帮忙解答一下误差问题已有2人参与

a=10000,b=10000.1,c=b-a,让计算机输出c/0.1-1,为什么我用电脑算出来是10^-3,别的同学用c++算出来是10^-12,为什么我的误差这么大?

发自小木虫IOS客户端
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

chuntao118

新虫 (著名写手)

4楼2019-11-22 08:30:30
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 5 个回答

jjdg

版主 (知名作家)

优秀版主

【答案】应助回帖

感谢参与,应助指数 +1
正常的,这个跟你用的程序和机器的cpu有关,不同cpu因为指令有差异,所以在精确位数上是不同的,你就用“a=10000,b=10000.1,c=b-a”这3行,看看c等于多少就清楚了
努力学习!以正当途径!获得需要的知识!
2楼2019-09-16 19:35:46
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

bcsnow

铁杆木虫 (著名写手)

【答案】应助回帖

主要是和你们所选数据类型的精度有关,和是否c++无关(不知道你是用什么算的)。比如你用4字节数据类型(32位,c++可能是float或者single,记不清了),除去符号位和指数位,剩下的尾数用20多位来表示。那么精度就是1/2^20,小数点后6-7位,去掉前面10000,误差在小数点后3位合理。如果用8字节,那么精度可能是1/2^50,即小数点后15-6位,去掉前面10000,误差在小数点后12位也合理。
3楼2019-10-28 12:49:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

flyingair007

银虫 (正式写手)

检查一下变量类型
是double还是float
5楼2019-12-05 23:35:49
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
不应助 确定回帖应助 (注意:应助才可能被奖励,但不允许灌水,必须填写15个字符以上)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[论文投稿] 投稿被一个审稿人恶意评审了怎么样? +5 1chen 2024-06-14 7/350 2024-06-15 23:15 by xy66xy
[教师之家] 关于2023的收入 +33 小龙虾2008 2024-06-10 34/1700 2024-06-15 23:01 by zeolitess
[基金申请] 关于博后基金的bug问题 +6 lxr1991 2024-06-14 9/450 2024-06-15 21:17 by since—2010
[考博] 上海交大招收材料化学方向科研助理/“申请考核”博士(请勿回复帖子或站内投条) +3 灵梦and紫 2024-06-12 4/200 2024-06-15 20:58 by 1822836277
[基金申请] 希望今年自己国自然面上项目和老婆青年项目能中! +5 恐龙爸爸 2024-06-14 5/250 2024-06-15 20:36 by wanghuawei
[教师之家] 我们学院常年位居 各学院 倒数第二。专业撤销的话,在编者有什么补偿? +13 河西夜郎 2024-06-09 14/700 2024-06-15 19:44 by LittleBush
[硕博家园] 博士毕业高校和就业的相关问题 +4 SCITOPPP 2024-06-14 6/300 2024-06-15 18:54 by SCITOPPP
[硕博家园] 硕博巨婴,也许才刚刚开始 +27 SNaiL1995 2024-06-12 61/3050 2024-06-15 16:10 by 大飞鱼鱼鱼
[考博] 2025考博 +4 自强不息a?a 2024-06-15 6/300 2024-06-15 12:36 by 自强不息a?a
[论文投稿] 求机械类四区sci推荐 5+3 迷茫小旷 2024-06-14 4/200 2024-06-15 11:25 by bobvan
[找工作] 杭电、天津科技、青农和宁波工程学院如何选? +9 味道很好啊 2024-06-13 15/750 2024-06-15 09:59 by yulan19992002
[考研] 物理化学一对一辅导 +3 林大diao 2024-06-12 5/250 2024-06-14 20:57 by 林大diao
[基金申请] 工材E口JQ有消息了吗 +4 babyduck 2024-06-11 4/200 2024-06-14 17:23 by firepick
[基金申请] 国自然基金公布的时候基金号有吗 +8 潇洒怡惜 2024-06-13 11/550 2024-06-14 11:24 by JRfei
[基金申请] 化学会年会改成一年开一次了? +5 babu2015 2024-06-12 13/650 2024-06-14 10:46 by babu2015
[论文投稿] 文章proof要求使用机构的邮箱 5+3 不可不信缘 2024-06-11 11/550 2024-06-14 07:00 by 3001160025
[教师之家] 请各位老师谈谈身边非升即走的例子 +10 Lucas1121 2024-06-09 25/1250 2024-06-13 21:52 by Lucas1121
[基金申请] 博士后面上项目状态还是专家评审吗 10+9 Thatcheremu 2024-06-13 55/2750 2024-06-13 21:23 by 乌合麒麟
[硕博家园] 机械研究生如何拿到年薪40+w +13 阿巴阿巴哦哦 2024-06-11 15/750 2024-06-13 15:40 by 113745685
[论文投稿] 摩擦磨损论文投稿 +3 jmysan 2024-06-12 3/150 2024-06-13 08:36 by 莱茵润色
信息提示
请填处理意见