24小时热门版块排行榜

>论坛更新日志 (2825)
>导师招生 (419)
>虫友互识 (278)
>招聘信息布告栏 (140)
>考博 (107)
>学术会议 (80)
>博后之家 (49)
>论文投稿 (48)
>休闲灌水 (29)
>土木建筑 (28)
>硕博家园 (19)
>基金申请 (17)
>找工作 (16)
>教师之家 (15)
>考研 (14)
>论文道贺祈福 (10)

返回列表

当前只显示满足指定条件的回帖，点击这里查看本话题的所有回帖

H518616171

新虫 (初入文坛)

应助: 0 (幼儿园)
金币: 13
帖子: 6
在线: 28分钟
虫号: 15426878
注册: 2019-06-25
专业: 凝聚态物性 II ：电子结构

[求助] 大佬帮忙解答一下误差问题已有2人参与

a=10000，b=10000.1，c=b-a，让计算机输出c/0.1-1，为什么我用电脑算出来是10^-3，别的同学用c++算出来是10^-12，为什么我的误差这么大？

发自小木虫IOS客户端

回复此楼

» 猜你喜欢

售SCI一区T0P文章，我:8O.55.1.O.54,科目全,可伽急已经有7人回复
面上没中，邀请各位路过的虫友分析一下分数已经有7人回复
哈尔滨工业大学韩晓军教授课题组招收2027年硕士推免生及博士研究生已经有3人回复
找导师已经有8人回复
国社科又开始会评了，不知道这次命运如何已经有14人回复
麻烦专家们看看评委们的意见（F口面上）已经有13人回复
科研人应该花精力去思考如何解决问题，而不是去凝练问题已经有14人回复
要骂人了，新模版改版就是要淡化问题凝练这种虚的东西，结果有个评委还在说凝练得不够已经有17人回复
学科评审组评审是指会评吗？已经有5人回复
小白求助投论文要求的highlights应该如何写已经有4人回复

1楼 2019-09-16 16:54:24

已阅回复此楼关注TA 给TA发消息送TA红花 TA的回帖

bcsnow

铁杆木虫 (著名写手)

应助: 245 (大学生)
金币: 7118
散金: 134
红花: 20
帖子: 1758
在线: 663.2小时
虫号: 576682
注册: 2008-06-21
性别: GG
专业: 人工智能与知识工程

【答案】应助回帖

主要是和你们所选数据类型的精度有关，和是否c++无关（不知道你是用什么算的）。比如你用4字节数据类型（32位，c++可能是float或者single，记不清了），除去符号位和指数位，剩下的尾数用20多位来表示。那么精度就是1/2^20，小数点后6-7位，去掉前面10000，误差在小数点后3位合理。如果用8字节，那么精度可能是1/2^50，即小数点后15-6位，去掉前面10000，误差在小数点后12位也合理。