24小时热门版块排行榜    

查看: 890  |  回复: 4
【悬赏金币】回答本帖问题,作者H518616171将赠送您 10 个金币

H518616171

新虫 (初入文坛)

[求助] 大佬帮忙解答一下误差问题已有2人参与

a=10000,b=10000.1,c=b-a,让计算机输出c/0.1-1,为什么我用电脑算出来是10^-3,别的同学用c++算出来是10^-12,为什么我的误差这么大?

发自小木虫IOS客户端
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

jjdg

版主 (知名作家)

优秀版主

【答案】应助回帖

感谢参与,应助指数 +1
正常的,这个跟你用的程序和机器的cpu有关,不同cpu因为指令有差异,所以在精确位数上是不同的,你就用“a=10000,b=10000.1,c=b-a”这3行,看看c等于多少就清楚了
努力学习!以正当途径!获得需要的知识!
2楼2019-09-16 19:35:46
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

bcsnow

铁杆木虫 (著名写手)

【答案】应助回帖

主要是和你们所选数据类型的精度有关,和是否c++无关(不知道你是用什么算的)。比如你用4字节数据类型(32位,c++可能是float或者single,记不清了),除去符号位和指数位,剩下的尾数用20多位来表示。那么精度就是1/2^20,小数点后6-7位,去掉前面10000,误差在小数点后3位合理。如果用8字节,那么精度可能是1/2^50,即小数点后15-6位,去掉前面10000,误差在小数点后12位也合理。
3楼2019-10-28 12:49:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

chuntao118

新虫 (著名写手)

4楼2019-11-22 08:30:30
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

flyingair007

银虫 (正式写手)

检查一下变量类型
是double还是float
5楼2019-12-05 23:35:49
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 H518616171 的主题更新
不应助 确定回帖应助 (注意:应助才可能被奖励,但不允许灌水,必须填写15个字符以上)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[论文投稿] 求助,锂电池的3区4区英文期刊求助 +7 交界地的懒羊羊 2024-06-06 7/350 2024-06-08 02:23 by 明明在
[论文投稿] 工作后评职称需要发表论文,想自己写,求帮助 50+3 上官逸夜 2024-06-04 9/450 2024-06-07 22:57 by xy66xy
[基金申请] 看到大家一直在说代表作NC,不明觉厉 +17 翰海2022 2024-06-07 17/850 2024-06-07 22:48 by ly5918899
[基金申请] 化学B02口青基 代表作都是什么水平的?向大佬求助 +16 arthas_007 2024-06-01 24/1200 2024-06-07 19:38 by 黑大环境队长
[基金申请] G口yq发了吗 +8 nnyyxx 2024-06-03 8/400 2024-06-07 19:21 by yifeng11
[基金申请] 什么时候会评呢? +4 qq632458 2024-06-07 6/300 2024-06-07 19:18 by 6543yes
[基金申请] 河北省基金 +6 星辰32 2024-06-04 8/400 2024-06-07 19:15 by zhang5657
[基金申请] 年年想打听,年年打听不到。。 +19 hdzw9071 2024-06-03 27/1350 2024-06-07 17:05 by dxcharlary
[公派出国] 公派出去要准备多少钱? +3 天空之光 2024-06-06 3/150 2024-06-07 17:00 by 安小樱
[教师之家] 最浪漫的事 (金币+5) +6 水冰月月野兔 2024-06-06 6/300 2024-06-07 16:32 by Quakerbird
[论文投稿] 毕业后发文章 +4 Prome_Epime 2024-06-06 4/200 2024-06-07 10:42 by 投必得科研顾问
[高分子] 懂的都来说说看,这是啥情况啊 +3 中国学院 2024-06-04 3/150 2024-06-06 23:55 by 骆驼刺
[精细化工] cab-35是不是智商税 +3 桃花流水炖肥鱼 2024-06-02 4/200 2024-06-06 23:05 by 桃花流水炖肥鱼
[论文投稿] 博士学的是健康教育,需要自己找课题,哪位大神帮忙指导一下,选什么健康教育课题呢? 30+3 lepeau 2024-06-05 5/250 2024-06-06 11:38 by nono2009
[硕博家园] 材料博士毕业 +8 112233ssg 2024-06-02 9/450 2024-06-06 04:58 by kangshisan
[论文投稿] Industrial lurication and tribology初次投稿被退回求助 5+3 lmjz66 2024-06-05 3/150 2024-06-05 16:32 by wjykycg
[论文投稿] Scientific reports 投稿 +6 chencome12 2024-06-02 8/400 2024-06-05 10:17 by 天到未必酬勤
[论文投稿] TE decision has been completed 又变成Reviewers assignment is in progress? 3+3 qweasd12345 2024-06-03 6/300 2024-06-05 09:27 by bobvan
[论文投稿] 求助大神,Fe和Al离子对MOF都有淬灭,当两种离子共存时,怎么区分两种离子? 10+5 maoxiao 2024-06-02 6/300 2024-06-03 19:35 by maolC
[教师之家] 职能部门工作人员态度不好是普遍的吗?怎么让他们态度好一些? +7 河西夜郎 2024-06-01 7/350 2024-06-03 08:37 by YY392619
信息提示
请填处理意见