24小时热门版块排行榜     石溪大学接受考研调剂申请>

【调剂】北京石油化工学院2024年16个专业接受调剂
查看: 862  |  回复: 4
【悬赏金币】回答本帖问题,作者H518616171将赠送您 10 个金币

H518616171

新虫 (初入文坛)

[求助] 大佬帮忙解答一下误差问题已有2人参与

a=10000,b=10000.1,c=b-a,让计算机输出c/0.1-1,为什么我用电脑算出来是10^-3,别的同学用c++算出来是10^-12,为什么我的误差这么大?

发自小木虫IOS客户端
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

jjdg

版主 (知名作家)

优秀版主

【答案】应助回帖

感谢参与,应助指数 +1
正常的,这个跟你用的程序和机器的cpu有关,不同cpu因为指令有差异,所以在精确位数上是不同的,你就用“a=10000,b=10000.1,c=b-a”这3行,看看c等于多少就清楚了
努力学习!以正当途径!获得需要的知识!
2楼2019-09-16 19:35:46
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

bcsnow

铁杆木虫 (著名写手)

【答案】应助回帖

主要是和你们所选数据类型的精度有关,和是否c++无关(不知道你是用什么算的)。比如你用4字节数据类型(32位,c++可能是float或者single,记不清了),除去符号位和指数位,剩下的尾数用20多位来表示。那么精度就是1/2^20,小数点后6-7位,去掉前面10000,误差在小数点后3位合理。如果用8字节,那么精度可能是1/2^50,即小数点后15-6位,去掉前面10000,误差在小数点后12位也合理。
3楼2019-10-28 12:49:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

chuntao118

新虫 (著名写手)

4楼2019-11-22 08:30:30
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

flyingair007

银虫 (正式写手)

检查一下变量类型
是double还是float
5楼2019-12-05 23:35:49
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 H518616171 的主题更新
不应助 确定回帖应助 (注意:应助才可能被奖励,但不允许灌水,必须填写15个字符以上)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[论文投稿] 无under review,直接DIP,咋么办。 +10 lizhengke06 2024-04-19 16/800 2024-04-23 19:15 by 化学程序员
[有机交流] 紧急求助,有谁用过三甲基硅醇钾TMSOK吗? 1000+3 genius2008 2024-04-19 8/400 2024-04-23 16:57 by czyzsu
[考博] 博士申请 +4 zhangxm0525 2024-04-17 12/600 2024-04-23 16:35 by 莹亮的星空
[基金申请] 前同事拿我以前未中的国自然标书申请今年的国自然,现在基金委发来调查函 +28 bjdxyxy 2024-04-19 44/2200 2024-04-23 16:29 by 淀粉搬运工
[考博] 山东大学化学与化工学院刘磊课题组博士研究生招生启事 +7 sdorganic 2024-04-17 9/450 2024-04-23 16:28 by 让一切随风l
[硕博家园] 聊天 +6 暮色恋伊人 2024-04-22 7/350 2024-04-23 15:35 by viraa
[论文投稿] Chemical Engineering Journal投稿3周了,一直显示With editor状态。这是送审了吗? 10+3 yifeng11 2024-04-20 7/350 2024-04-23 09:29 by bobvan
[教师之家] 河海大学常州校区新进的讲师待遇如何?考核要求如何? +3 德国小球迷 2024-04-19 18/900 2024-04-22 19:23 by ZHONGWU_U
[公派出国] 東京大学 应用化学专业柳田研究室 招收修士/博士生 +4 蝶梦123 2024-04-19 4/200 2024-04-22 15:10 by liukang88j
[教师之家] 期末给学生划重点都是什么话术啊 +13 luokereng 2024-04-20 14/700 2024-04-22 14:58 by luokereng
[找工作] 化工专业 10+3 xiao太阳94 2024-04-18 7/350 2024-04-22 13:48 by mlnjut
[基金申请] 国社科项目,你们学校都限额申报吗? +5 屡战屡败 2024-04-21 7/350 2024-04-22 13:03 by 屡战屡败
[找工作] 工作问题求助 +3 向前?@ 2024-04-18 4/200 2024-04-22 09:40 by zhaojiang427
[论文投稿] 编辑是选国外的好还是国内的好。 +8 lizhengke06 2024-04-20 8/400 2024-04-22 08:58 by cuiyunjian
[考研] 298求调剂 +10 孙大大@ 2024-04-17 11/550 2024-04-20 18:33 by 371122gyd
[考研] 312求调剂 +3 Leroic000 2024-04-19 3/150 2024-04-20 18:19 by xinaishan
[论文投稿] 一审一个审稿人,小修,会怎么样呀? +10 林师妹 2024-04-18 10/500 2024-04-20 18:08 by 肖虫家
[论文投稿] 最近遇到这样一个问题 +4 asd123gfa689 2024-04-18 10/500 2024-04-19 18:57 by asd123gfa689
[论文投稿] SCI 评审意见回复 模板 15+3 Kilig0317 2024-04-18 4/200 2024-04-19 08:46 by bobvan
[考研] 工学322,英语六级求调剂 +3 domax 2024-04-17 10/500 2024-04-17 21:25 by 东方花园小万
信息提示
请填处理意见