应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 计算模拟区 » 程序语言 » Fortran » 大佬帮忙解答一下误差问题
51/1返回列表
查看: 1330  |  回复: 4
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看
当前只显示满足指定条件的回帖，点击这里查看本话题的所有回帖

H518616171

新虫 (初入文坛)

[求助] 大佬帮忙解答一下误差问题 已有2人参与

a=10000，b=10000.1，c=b-a，让计算机输出c/0.1-1，为什么我用电脑算出来是10^-3，别的同学用c++算出来是10^-12，为什么我的误差这么大？

发自小木虫IOS客户端
回复此楼

» 猜你喜欢
1楼 2019-09-16 16:54:24
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

bcsnow

铁杆木虫 (著名写手)

【答案】应助回帖

主要是和你们所选数据类型的精度有关，和是否c++无关（不知道你是用什么算的）。比如你用4字节数据类型（32位，c++可能是float或者single，记不清了），除去符号位和指数位，剩下的尾数用20多位来表示。那么精度就是1/2^20，小数点后6-7位，去掉前面10000，误差在小数点后3位合理。如果用8字节，那么精度可能是1/2^50，即小数点后15-6位，去掉前面10000，误差在小数点后12位也合理。
赞一下 回复此楼
3楼2019-10-28 12:49:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 5 个回答

jjdg

版主 (知名作家)

优秀版主

【答案】应助回帖

感谢参与，应助指数 +1
正常的，这个跟你用的程序和机器的cpu有关，不同cpu因为指令有差异，所以在精确位数上是不同的，你就用“a=10000，b=10000.1，c=b-a”这3行，看看c等于多少就清楚了
赞一下 回复此楼
努力学习！以正当途径！获得需要的知识！
2楼2019-09-16 19:35:46
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

chuntao118

新虫 (著名写手)
手算就知道谁对谁错了

发自小木虫Android客户端
赞一下 回复此楼
4楼2019-11-22 08:30:30
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

flyingair007

银虫 (正式写手)
检查一下变量类型
是double还是float
赞一下 回复此楼
5楼2019-12-05 23:35:49
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 5 个回答
普通表情 龙 兔 虎 猫
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 083000环境科学与工程调剂 +7 mingmingry 2026-03-09 8/400 2026-03-10 22:53 by 星空星月
[考研] 306求调剂 +3 唐薏薏 2026-03-09 3/150 2026-03-10 22:30 by peike
[考研] 材料工程307，求调剂 +6 我要燃烧你的梦 2026-03-08 6/300 2026-03-10 22:08 by peike
[考研] 086000生物与医药319分求调剂 +4 Tolkien 2026-03-07 8/400 2026-03-10 21:34 by Tolkien
[考研] 一志愿山东大学105500药学专硕，总分302求调剂 +5 五维天空 2026-03-04 13/650 2026-03-10 19:02 by 清风月
[考研] 308求调剂 +4 是Lupa啊 2026-03-08 7/350 2026-03-10 18:25 by 清风月
[考研] 0703求调剂 +3 jtyq001 2026-03-10 3/150 2026-03-10 16:45 by ztnimte
[基金申请] PDF在线压缩软件 10+3 haxia 2026-03-08 4/200 2026-03-10 13:44 by lfy8008
[考研] 0832食品科学与工程293调剂 +3 东东不東 2026-03-07 3/150 2026-03-09 15:58 by ls_13456
[考研] 材料与化工，291分，求调剂 +13 咕噜咕噜123123 2026-03-04 15/750 2026-03-09 09:32 by 30660438
[考研] 材料工程330分求调剂，一志愿985 +3 小材化本科 2026-03-07 3/150 2026-03-09 05:35 by houyaoxu
[教师之家] 交大前校长王树国：现在最先进的科技并不在大学实验室，而是在企业研究院 +4 zju2000 2026-03-08 6/300 2026-03-08 19:15 by zju2000
[考研] 一志愿郑大071000分数282求调剂 +3 研研颜 2026-03-05 7/350 2026-03-07 22:33 by 帆船哥
[考研] 0703化学求调剂学校 +3 一志愿京区211 2026-03-04 3/150 2026-03-07 21:35 by yinhuanshun
[考研] 276求调剂 本科天津工业大学 一志愿北京化工大学0855 +4 路lyh123 2026-03-06 6/300 2026-03-07 11:37 by shdliugang
[考研] 085600材料与化工 292分 求调剂 +6 程晴之 2026-03-06 6/300 2026-03-07 09:22 by 斩魂滴兔子！
[考研] 275求调剂 +4 大爆炸难民 2026-03-06 5/250 2026-03-06 09:21 by guoweigw
[考研] 求调剂，学校研究所都可以，材料与化工267分 +6 wmx1 2026-03-05 6/300 2026-03-05 20:01 by houyaoxu
[考研] 376求调剂 +3 王浩然sam 2026-03-04 3/150 2026-03-05 07:48 by bxbo
[考研] 295求调剂 +4 小赛不吃香菜 2026-03-04 4/200 2026-03-04 16:13 by sslc1985
信息提示
关闭
请填处理意见
关闭