24小时热门版块排行榜    

查看: 892  |  回复: 4
【悬赏金币】回答本帖问题,作者H518616171将赠送您 10 个金币
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

H518616171

新虫 (初入文坛)

[求助] 大佬帮忙解答一下误差问题已有2人参与

a=10000,b=10000.1,c=b-a,让计算机输出c/0.1-1,为什么我用电脑算出来是10^-3,别的同学用c++算出来是10^-12,为什么我的误差这么大?

发自小木虫IOS客户端
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

bcsnow

铁杆木虫 (著名写手)

【答案】应助回帖

主要是和你们所选数据类型的精度有关,和是否c++无关(不知道你是用什么算的)。比如你用4字节数据类型(32位,c++可能是float或者single,记不清了),除去符号位和指数位,剩下的尾数用20多位来表示。那么精度就是1/2^20,小数点后6-7位,去掉前面10000,误差在小数点后3位合理。如果用8字节,那么精度可能是1/2^50,即小数点后15-6位,去掉前面10000,误差在小数点后12位也合理。
3楼2019-10-28 12:49:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 H518616171 的主题更新
不应助 确定回帖应助 (注意:应助才可能被奖励,但不允许灌水,必须填写15个字符以上)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 蹲一个6月7号江苏省青基公示 +15 yulb1005 2024-06-06 24/1200 2024-06-08 08:47 by include_love
[论文投稿] 求助,锂电池的3区4区英文期刊求助 +7 交界地的懒羊羊 2024-06-06 7/350 2024-06-08 02:23 by 明明在
[基金申请] 看到大家一直在说代表作NC,不明觉厉 +17 翰海2022 2024-06-07 17/850 2024-06-07 22:48 by ly5918899
[基金申请] G口yq发了吗 +8 nnyyxx 2024-06-03 8/400 2024-06-07 19:21 by yifeng11
[基金申请] 什么时候会评呢? +4 qq632458 2024-06-07 6/300 2024-06-07 19:18 by 6543yes
[基金申请] 年年想打听,年年打听不到。。 +19 hdzw9071 2024-06-03 27/1350 2024-06-07 17:05 by dxcharlary
[教师之家] 郑雅婷工作后被辞退无业中,于是报复硕导,证据不足失败后可能报复父母 +14 苏东坡二世 2024-06-05 19/950 2024-06-07 16:29 by Quakerbird
[基金申请] 前些天开会有个人见到人就搞关系,一查此人全是MDPI/Hindawi论文,鄙视! +38 zju2000 2024-06-02 48/2400 2024-06-07 15:56 by SudaQian
[论文投稿] 求大神推荐医学相关的SCI 85+3 知识产权服务 2024-06-03 6/300 2024-06-07 06:25 by licheng78
[论文投稿] 一般很空的审稿意见大家一般是怎么回复的 +4 mage9162 2024-06-05 5/250 2024-06-07 06:20 by mage9162
[基金申请] 5B能上会么? +12 Tenfu 2024-06-05 14/700 2024-06-06 22:34 by mch20120521
[基金申请] 为什么美国要封锁华为而不封锁丘C同呢? +17 zju2000 2024-06-02 26/1300 2024-06-06 19:20 by chemhua
[论文投稿] 审稿快、要求低的SCI四区开源期刊有么? +6 zch哈哈 2024-06-03 7/350 2024-06-06 16:23 by p-cloud
[论文投稿] 投稿的时候编辑发来邮件说作者机构信息没填写怎么办 5+4 飞飞0421 2024-06-02 11/550 2024-06-06 10:56 by 学员XxVJy5
[论文投稿] 二审10天就Required Reviews Completed +6 2021035005 2024-06-03 12/600 2024-06-06 08:58 by 2021035005
[论文投稿] 返修之后,今天with editor状态没变,但是日期更新了,有人知道是怎么回事么? 50+3 huanpo116 2024-06-04 8/400 2024-06-05 21:44 by lucky_my2010
[论文投稿] Industrial lurication and tribology初次投稿被退回求助 5+3 lmjz66 2024-06-05 3/150 2024-06-05 16:32 by wjykycg
[有机交流] 求指点这一步反应如何实现 50+4 35ghjs 2024-06-04 12/600 2024-06-05 10:51 by 35ghjs
[论文投稿] 硅酸盐学报审稿费晚交有啥影响没 +4 赵杉嫚 2024-06-03 4/200 2024-06-04 21:20 by topedit
[基金申请] +5 河马の史诗 2024-06-02 5/250 2024-06-02 19:05 by 328838485
信息提示
请填处理意见