24小时热门版块排行榜    

查看: 1327  |  回复: 4

H518616171

新虫 (初入文坛)

[求助] 大佬帮忙解答一下误差问题 已有2人参与

a=10000,b=10000.1,c=b-a,让计算机输出c/0.1-1,为什么我用电脑算出来是10^-3,别的同学用c++算出来是10^-12,为什么我的误差这么大?

发自小木虫IOS客户端
回复此楼

» 猜你喜欢

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

jjdg

版主 (知名作家)

优秀版主

【答案】应助回帖

感谢参与,应助指数 +1
正常的,这个跟你用的程序和机器的cpu有关,不同cpu因为指令有差异,所以在精确位数上是不同的,你就用“a=10000,b=10000.1,c=b-a”这3行,看看c等于多少就清楚了
努力学习!以正当途径!获得需要的知识!
2楼2019-09-16 19:35:46
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

bcsnow

铁杆木虫 (著名写手)

【答案】应助回帖

主要是和你们所选数据类型的精度有关,和是否c++无关(不知道你是用什么算的)。比如你用4字节数据类型(32位,c++可能是float或者single,记不清了),除去符号位和指数位,剩下的尾数用20多位来表示。那么精度就是1/2^20,小数点后6-7位,去掉前面10000,误差在小数点后3位合理。如果用8字节,那么精度可能是1/2^50,即小数点后15-6位,去掉前面10000,误差在小数点后12位也合理。
3楼2019-10-28 12:49:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

chuntao118

新虫 (著名写手)

4楼2019-11-22 08:30:30
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

flyingair007

银虫 (正式写手)

检查一下变量类型
是double还是float
5楼2019-12-05 23:35:49
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 H518616171 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 311求调剂 +3 牛乳糖的卡卡 2026-03-10 3/150 2026-03-10 16:19 by 球场大飞机
[考研] 一志愿江南大学085701环境工程专硕总分287求调剂 +3 18266118446 2026-03-09 3/150 2026-03-10 15:50 by houyaoxu
[考研] 0703化学调剂 +3 三dd. 2026-03-10 3/150 2026-03-10 15:45 by peike
[考研] 欢迎211本科同学,过A区国家线,A区非偏远一本,交叉学科课题组 +22 lisimayy 2026-03-04 36/1800 2026-03-10 15:43 by lfy760306
[考研] 研究生招生 +3 徐海涛11 2026-03-10 6/300 2026-03-10 12:43 by 徐海涛11
[考研] 复试调剂 +6 呼呼?~+123456 2026-03-08 8/400 2026-03-10 11:36 by 呼呼?~+123456
[考博] 2026博士申请 +6 起泡酒 2026-03-08 6/300 2026-03-10 10:26 by 何由彻
[考研] 新疆大学地质与矿业工程学院招生 +24 another12 2026-03-04 32/1600 2026-03-10 01:15 by 1111--
[考研] 0703化学求调剂 +4 很老实人 2026-03-09 4/200 2026-03-09 13:38 by macy2011
[考研] 求调剂,一志愿江南大学,食品科学与工程,总分,320 +3 yyyyyukino 2026-03-07 3/150 2026-03-08 23:07 by 清风月
[考研] 288求调剂085600材料与化工 +13 Daunrin 2026-03-07 15/750 2026-03-08 19:10 by 加号+
[考研] 求调剂,一志愿华中科大0702,数一英一,293 +4 小罗露一二 2026-03-07 4/200 2026-03-08 16:36 by 星空星月
[考研] 083000,总分284,求调剂 +5 徐yr 2026-03-04 5/250 2026-03-08 11:45 by 151314
[考研] 化学工程求调剂 +12 化工人999 2026-03-04 12/600 2026-03-08 11:17 by 我的船我的海
[考研] 一志愿武汉理工085601,初试301分,请问能调剂到湖北吗 +3 肖yang 2026-03-06 3/150 2026-03-07 19:08 by ms629
[考研] 268求调剂 +4 刘合华 2026-03-05 4/200 2026-03-06 11:18 by lature00
[考研] 材料与化工304求调剂 +7 邱gl 2026-03-05 10/500 2026-03-06 01:11 by 卷柏卷柏
[考研] 考研282分求调剂,接受跨专业 +4 刘淄博 2026-03-04 7/350 2026-03-05 22:56 by 刘淄博
[考研] 085701环境工程 求调剂 +7 xiiiia 2026-03-04 7/350 2026-03-05 09:49 by 热情沙漠
[考研] 0703化学求调剂 +3 将未有期 2026-03-04 3/150 2026-03-04 16:19 by sslc1985
信息提示
请填处理意见