24小时热门版块排行榜    

查看: 879  |  回复: 4
【悬赏金币】回答本帖问题,作者H518616171将赠送您 10 个金币

H518616171

新虫 (初入文坛)

[求助] 大佬帮忙解答一下误差问题已有2人参与

a=10000,b=10000.1,c=b-a,让计算机输出c/0.1-1,为什么我用电脑算出来是10^-3,别的同学用c++算出来是10^-12,为什么我的误差这么大?

发自小木虫IOS客户端
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

jjdg

版主 (知名作家)

优秀版主

【答案】应助回帖

感谢参与,应助指数 +1
正常的,这个跟你用的程序和机器的cpu有关,不同cpu因为指令有差异,所以在精确位数上是不同的,你就用“a=10000,b=10000.1,c=b-a”这3行,看看c等于多少就清楚了
努力学习!以正当途径!获得需要的知识!
2楼2019-09-16 19:35:46
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

bcsnow

铁杆木虫 (著名写手)

【答案】应助回帖

主要是和你们所选数据类型的精度有关,和是否c++无关(不知道你是用什么算的)。比如你用4字节数据类型(32位,c++可能是float或者single,记不清了),除去符号位和指数位,剩下的尾数用20多位来表示。那么精度就是1/2^20,小数点后6-7位,去掉前面10000,误差在小数点后3位合理。如果用8字节,那么精度可能是1/2^50,即小数点后15-6位,去掉前面10000,误差在小数点后12位也合理。
3楼2019-10-28 12:49:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

chuntao118

新虫 (著名写手)

4楼2019-11-22 08:30:30
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

flyingair007

银虫 (正式写手)

检查一下变量类型
是double还是float
5楼2019-12-05 23:35:49
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 H518616171 的主题更新
不应助 确定回帖应助 (注意:应助才可能被奖励,但不允许灌水,必须填写15个字符以上)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[硕博家园] 蹲一个男朋友 +15 伊伊莎贝拉 2024-05-17 24/1200 2024-05-18 00:12 by m739182102
[基金申请] 河北省基金 +11 3101251516 2024-05-16 17/850 2024-05-17 23:25 by 3101251516
[教师之家] 今天才知道硕士考进大专比博士进本科工资高得多 +8 ZHONGWU_U 2024-05-14 9/450 2024-05-17 23:22 by 胡杨之殇
[基金申请] 基金委也是打工的 +18 wsjing 2024-05-16 19/950 2024-05-17 19:21 by 雪径踏青
[教师之家] 执念 +5 459582015 2024-05-16 6/300 2024-05-17 19:03 by 咖啡不要冰
[基金申请] 南林海归博士首聘期 没拿到国自然,被降级后自杀 +32 babu2015 2024-05-13 34/1700 2024-05-17 18:52 by 清晨和风一起
[留学DIY] 求助:医生想润 +7 safrina 2024-05-15 7/350 2024-05-17 18:50 by 卡皮吧啦123
[电化学] 常用的国产电化学工作站有哪些? +7 123明湘 2024-05-11 7/350 2024-05-17 13:40 by FuMmm
[教师之家] 另一半是老师会加分哦 +11 acogw9004 2024-05-14 11/550 2024-05-17 11:18 by fysh2023
[教师之家] 青椒的未来在哪里? +14 sxhuabin 2024-05-15 14/700 2024-05-17 08:58 by Quakerbird
[基金申请] 大佬们,哪位大神知道E09有没有送啊? +3 牛棕色左右 2024-05-15 5/250 2024-05-17 08:44 by babalida
[考博] 申博 +3 己醛糖 2024-05-11 4/200 2024-05-17 07:33 by 化研迅
[基金申请] 国自然青基把共同第一作者标成了唯一第一作者 +26 1137025804 2024-05-15 28/1400 2024-05-16 22:26 by 1135482512
[考博] 寻找高分子领域博导 +8 小政雅图 2024-05-14 11/550 2024-05-16 22:10 by 单调的胖子
[硕博家园] 中国科学院大学李海艳老师课题组诚招硕/博研究生和博士后,诚聘客座本/硕/博学生 +4 ucaszmh 2024-05-14 5/250 2024-05-16 19:51 by 我是小班
[基金申请] 12个本子最多让给1a2b +16 地球e村长 2024-05-13 19/950 2024-05-16 17:48 by sars518
[教师之家] 谁要做个人网站,可以交流啊! +10 hjc404 2024-05-14 27/1350 2024-05-16 13:39 by hjc404
[硕博家园] 求助,请问我是否该转专业 +8 ygcbl 2024-05-12 10/500 2024-05-16 09:18 by 清晨和风一起
[基金申请] 有人看了我的科研之友 +9 jurkat.1640 2024-05-14 12/600 2024-05-15 16:04 by arthas_007
[硕博家园] 博导推荐,申博,博士招生 +5 大林挺好 2024-05-13 6/300 2024-05-15 14:51 by zxl_1105
信息提示
请填处理意见