24小时热门版块排行榜    

查看: 1329  |  回复: 4
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

H518616171

新虫 (初入文坛)

[求助] 大佬帮忙解答一下误差问题 已有2人参与

a=10000,b=10000.1,c=b-a,让计算机输出c/0.1-1,为什么我用电脑算出来是10^-3,别的同学用c++算出来是10^-12,为什么我的误差这么大?

发自小木虫IOS客户端
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

flyingair007

银虫 (正式写手)

检查一下变量类型
是double还是float
5楼2019-12-05 23:35:49
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 5 个回答

jjdg

版主 (知名作家)

优秀版主

【答案】应助回帖

感谢参与,应助指数 +1
正常的,这个跟你用的程序和机器的cpu有关,不同cpu因为指令有差异,所以在精确位数上是不同的,你就用“a=10000,b=10000.1,c=b-a”这3行,看看c等于多少就清楚了
努力学习!以正当途径!获得需要的知识!
2楼2019-09-16 19:35:46
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

bcsnow

铁杆木虫 (著名写手)

【答案】应助回帖

主要是和你们所选数据类型的精度有关,和是否c++无关(不知道你是用什么算的)。比如你用4字节数据类型(32位,c++可能是float或者single,记不清了),除去符号位和指数位,剩下的尾数用20多位来表示。那么精度就是1/2^20,小数点后6-7位,去掉前面10000,误差在小数点后3位合理。如果用8字节,那么精度可能是1/2^50,即小数点后15-6位,去掉前面10000,误差在小数点后12位也合理。
3楼2019-10-28 12:49:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

chuntao118

新虫 (著名写手)

4楼2019-11-22 08:30:30
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 265求调剂 +8 小木虫085600 2026-03-09 11/550 2026-03-10 19:44 by 绿色低碳化学
[考研] 材料工程307,求调剂 +5 我要燃烧你的梦 2026-03-08 5/250 2026-03-10 19:34 by zeng1010
[考研] 0856材料与化工309分求调剂 +4 ZyZy…… 2026-03-10 4/200 2026-03-10 15:20 by houyaoxu
[考研] 哈工大材料324求调剂 +5 闫旭东 2026-03-10 7/350 2026-03-10 14:41 by ruiyingmiao
[考研] 研究生招生 +3 徐海涛11 2026-03-10 6/300 2026-03-10 12:43 by 徐海涛11
[考研] 一志愿郑州大学,学硕,物理化学, 333求调剂 +8 李魔女斗篷 2026-03-04 9/450 2026-03-10 10:33 by allen-yin
[考博] 26年博士申请 +4 科研狗111 2026-03-07 4/200 2026-03-08 21:56 by 0611517sll
[基金申请] 进入个人成果库好难,一下午都没进去 +6 mi_dilee 2026-03-05 6/300 2026-03-08 11:43 by lan111
[考研] 材料调剂 +7 ounce. 2026-03-05 15/750 2026-03-08 09:39 by wangjihu
[考研] 346分材料求调剂 +5 snow_反季节版 2026-03-07 5/250 2026-03-07 22:40 by Leeding1356
[考研] 322分 085600求调剂,有互联网+国金及主持省级大创经历 +4 熊境喆 2026-03-05 4/200 2026-03-07 22:04 by 星空星月
[考研] 一志愿哈尔滨工业大学0856材料与化工,前三科206,总分283,求调剂 +7 26考研求调剂 2026-03-06 7/350 2026-03-07 14:49 by Miko19
[考研] 276求调剂 本科天津工业大学 一志愿北京化工大学0855 +4 路lyh123 2026-03-06 6/300 2026-03-07 11:37 by shdliugang
[考研] 一志愿南京大学资源与环境专业283分求调剂 +8 追云?? 2026-03-04 8/400 2026-03-07 09:23 by 斩魂滴兔子!
[考研] 材料调剂 +10 ounce. 2026-03-04 12/600 2026-03-07 09:14 by Mornach1988
[考博] 2026申博自荐 六级440电催化方向 +4 樱落成影花成双 2026-03-05 4/200 2026-03-06 07:57 by L135790
[考研] 一志愿武理085601专硕347分求调剂 +4 啊欧欧欧 2026-03-04 5/250 2026-03-05 19:27 by Leding1356
[考研] 085701环境工程 求调剂 +7 xiiiia 2026-03-04 7/350 2026-03-05 09:49 by 热情沙漠
[考研] 材料专硕346求调剂 +3 旺一下 2026-03-04 3/150 2026-03-04 16:26 by sslc1985
[考研] 一志愿314求调剂 +7 202111120625 2026-03-03 7/350 2026-03-04 15:56 by zhukairuo
信息提示
请填处理意见