应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 计算模拟区 » 程序语言 » Fortran » 大佬帮忙解答一下误差问题
51/1返回列表
查看: 1632  |  回复: 4
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看
当前只显示满足指定条件的回帖，点击这里查看本话题的所有回帖

H518616171

新虫 (初入文坛)

[求助] 大佬帮忙解答一下误差问题 已有2人参与

a=10000，b=10000.1，c=b-a，让计算机输出c/0.1-1，为什么我用电脑算出来是10^-3，别的同学用c++算出来是10^-12，为什么我的误差这么大？

发自小木虫IOS客户端
回复此楼

» 猜你喜欢
1楼 2019-09-16 16:54:24
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

flyingair007

银虫 (正式写手)
检查一下变量类型
是double还是float
赞一下 回复此楼
5楼2019-12-05 23:35:49
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 5 个回答

jjdg

版主 (知名作家)

优秀版主

【答案】应助回帖

感谢参与，应助指数 +1
正常的，这个跟你用的程序和机器的cpu有关，不同cpu因为指令有差异，所以在精确位数上是不同的，你就用“a=10000，b=10000.1，c=b-a”这3行，看看c等于多少就清楚了
赞一下 回复此楼
努力学习！以正当途径！获得需要的知识！
2楼2019-09-16 19:35:46
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

bcsnow

铁杆木虫 (著名写手)

【答案】应助回帖

主要是和你们所选数据类型的精度有关，和是否c++无关（不知道你是用什么算的）。比如你用4字节数据类型（32位，c++可能是float或者single，记不清了），除去符号位和指数位，剩下的尾数用20多位来表示。那么精度就是1/2^20，小数点后6-7位，去掉前面10000，误差在小数点后3位合理。如果用8字节，那么精度可能是1/2^50，即小数点后15-6位，去掉前面10000，误差在小数点后12位也合理。
赞一下 回复此楼
3楼2019-10-28 12:49:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

chuntao118

新虫 (著名写手)
手算就知道谁对谁错了

发自小木虫Android客户端
赞一下 回复此楼
4楼2019-11-22 08:30:30
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 5 个回答
普通表情 龙 兔 虎 猫
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[硕博家园] 极限拉扯，如何抉择 +11 Isak0320 2026-10-12 15/750 2026-10-14 21:55 by 猫鱼不是鱼
[基金申请] 申请科研项目纯靠实力能成功吗？ 200+5 David1982 2026-10-13 8/400 2026-10-14 21:38 by lhw_GPA4.0
[硕博家园] 中科院海洋所招收海洋材料相关领域博士研究生及研究助理 +3 sujiner 2026-10-08 4/200 2026-10-14 20:40 by qicaiyun
[职场人生] 40+中年人失业后，还能找到好工作吗？ +3 xqy2009 2026-10-13 3/150 2026-10-14 20:17 by 43358052
[论文投稿] 二审4个多月了还是Awaiting Reviewer Scores 10+3 纳斯达克ML 2026-10-11 4/200 2026-10-14 17:30 by babero
[教师之家] 课题组会帮你通过考核么？ +4 好运来～9527 2026-10-10 7/350 2026-10-13 08:41 by xli1984
[基金申请] 入职后第一次管课题组的专利缴费，对账才发现官费比别人多掏了一倍 +6 13108017953 2026-10-08 6/300 2026-10-12 20:07 by w3w3y3
[公派出国] 售一区SCI文章T0P，我:8O.551.O54,科目全,可十急 +5 qR2AdCWTVtkw 2026-10-09 9/450 2026-10-11 22:34 by XQNyDCa1Tk5n
[公派出国] 售SCI一区文章，我:8O5.5.1.O5.4,科目全,可伽急 +5 qR2AdCWTVtkw 2026-10-09 10/500 2026-10-11 22:26 by XQNyDCa1Tk5n
[找工作] 售SCI一区T0P文章，我:8.O55.1.O.54,科目全,可十急 +5 qR2AdCWTVtkw 2026-10-09 8/400 2026-10-11 22:26 by XQNyDCa1Tk5n
[考博] 售SCI一区T0P文章，我:8.O55.1.O.54,科目全,可十急 +5 qR2AdCWTVtkw 2026-10-09 9/450 2026-10-11 22:15 by XQNyDCa1Tk5n
[教师之家] 售SCI文章，我:8O5.5.1.O.54,科目齐全,可+急 (EPI+-1)(金币-50) +5 qR2AdCWTVtkw 2026-10-09 10/500 2026-10-11 22:06 by XQNyDCa1Tk5n
[教师之家] 售SCI一区T0P文章，我:8.O.55.1.O.5.4,科目全,可+急 (EPI+-1)(金币-50) +5 qR2AdCWTVtkw 2026-10-09 10/500 2026-10-11 14:25 by VOMexwnDzOFZ
[教师之家] 售SCI文章，我:8O.5.5.1O.54,科目全,可十急 (EPI+-1)(金币-50) +4 qR2AdCWTVtkw 2026-10-09 7/350 2026-10-11 14:05 by VOMexwnDzOFZ
[考研] 售SCI文章，我:8O.5.5.1O.54,科目全,可十急 +5 qR2AdCWTVtkw 2026-10-09 8/400 2026-10-11 13:51 by VOMexwnDzOFZ
[找工作] 售SCI一区T0P文章，我:8O.55.1.O.5.4,科目齐全,可+急 +3 qR2AdCWTVtkw 2026-10-09 7/350 2026-10-11 10:54 by VOMexwnDzOFZ
[考博] 招收博士生一名 +3 mandolin 2026-10-10 3/150 2026-10-11 10:21 by 不是山谷！
[公派出国] 售SCI一区T0P文章，我:8O.55.1.O.54,科目全,可伽急 +4 qR2AdCWTVtkw 2026-10-09 4/200 2026-10-11 03:14 by M0zrYVSAnxpE
[有机交流] 各位大佬，路线设计求助 +6 zapen 2026-10-08 8/400 2026-10-10 15:59 by zapen
[有机交流] 我应该选哪条合成路线让实验成功率高一些？ +5 jing816y 2026-10-08 9/450 2026-10-10 09:05 by zapen
信息提示
关闭
请填处理意见
关闭