24小时热门版块排行榜    

查看: 529  |  回复: 6
当前主题已经存档。
【悬赏金币】回答本帖问题,作者hfcas将赠送您 2 个金币

hfcas

铁杆木虫 (正式写手)

[求助] 关于实验和模型计算中有效数字 与 小数位数的问题

各位好
有个问题请教大家。

写了篇小文章,大概是这样的:

其中涉及到实验数据如下(为吸光度,保留的是4位小数。):
0.0841        0.0913        0.0975        0.1035        0.1086        0.1132

问题1:
这里应该保留4位小数,还是要按照前3个数字来定为3个有效数字呢?究竟按有效数字来,还是小数来呢?
ps:虽然平时都讲有效数字,但自己觉得这种情况下应该保留4位小数才对,可是专家审稿意见里说 “需要注意数据的有效数字,尤其是试验测试值

问题2:
对上述数据,利用软件对它做拟合模型。比如用直线来拟合的话,那么得到
Y=AX+B 这样的表达式,A,B都会对应一个常数
请问这种情况下,A和B应该保留多少位小数呢?与上述数据一样也保留4位小数吗?还是多保留1位呢? 或者不按小数位数来,而按有效位数来?
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

抢沙发

★ ★ ★
hfcas(金币+1,VIP+0):多谢帮顶 1-4 10:31
hfcas(金币+2,VIP+0): 1-5 12:50
2楼2010-01-04 08:04:20
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zhanyz

银虫 (小有名气)

★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★
hfcas(金币+2,VIP+0):仪器可以精确到第4位小数的 1-4 10:31
hfcas(金币+10,VIP+0): 1-5 12:50
保留3位小数。这是仪器可测的精度。对你这几个数据,和保留3位有效数字是一致的。0.08几以上可多算一位有效数字。
3楼2010-01-04 08:24:57
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hfcas

铁杆木虫 (正式写手)

引用回帖:
Originally posted by zhanyz at 2010-1-4 08:24:
保留3位小数。这是仪器可测的精度。对你这几个数据,和保留3位有效数字是一致的。0.08几以上可多算一位有效数字。

但是仪器可以精确到第4位的。
而且看其他类似的文献,都是采用4 位小数的。。
4楼2010-01-04 10:16:09
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hfcas

铁杆木虫 (正式写手)

补充一下,可能上面没有描述清楚。

大家看如下数字
0.0841        0.0913        0.0975        0.1035        0.1086        0.1132
如果按照有效数字来说,前3个 只有3位有效数字;后3个有4位有效数字

但是如果按照有效数字来统一,都采用3位有效数字,这个时候,后面3个就只有3位小数了,觉得更有问题。

所以觉得应该统一4位小数才对。
5楼2010-01-04 10:21:13
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

ytinghost3

铁杆木虫 (著名写手)

★ ★ ★
hfcas(金币+1,VIP+0):感谢讨论 A,B觉得最少也应该保留4位才对吧 1-4 12:21
hfcas(金币+2,VIP+0): 1-5 12:50
保留4位有效数字,对于Y=AX+B 中的A,B保留三位就好。
谎言与誓言的区别在于:一个是听的人当真了,一个是说的人当真了。
6楼2010-01-04 11:33:35
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hfcas

铁杆木虫 (正式写手)

引用回帖:
Originally posted by ytinghost3 at 2010-1-4 11:33:
保留4位有效数字,对于Y=AX+B 中的A,B保留三位就好。

如果保留4位有效数字
0.0841        0.0913        0.0975        0.1035        0.1086        0.1132
前面的3个只有3个有效数字的。。。
我觉得这种应该用小数位才对 不能用有效数字。。
7楼2010-01-04 12:20:40
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 hfcas 的主题更新
不应助 确定回帖应助 (注意:应助才可能被奖励,但不允许灌水,必须填写15个字符以上)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] FileCode能看出啥? +8 要乐观耀哥 2026-08-10 21/1050 2026-08-12 16:08 by 云上清扬
[基金申请] 关于Filecode分析方法 +4 majunge000 2026-08-10 4/200 2026-08-12 15:46 by 云上清扬
[基金申请] 应该是93bebmhtak前后十一个字符比较关键 +22 Lanmanbaby 2026-08-09 35/1750 2026-08-12 14:38 by sdfapple719
[论文投稿] 职称评审,求友友推荐见刊最快的期刊 +4 工厂打螺丝 2026-08-08 4/200 2026-08-12 09:18 by hansi2025
[基金申请] 是这周出结果还是下周出结果? +3 yuleib84 2026-08-11 3/150 2026-08-11 21:53 by jnhyjjm
[基金申请] 有时候,自然基金真的不能太认真 (我的申报经验) +3 majunge000 2026-08-11 4/200 2026-08-11 20:13 by lch2012
[基金申请] 帮忙看看fileCode +7 wwncly 2026-08-10 13/650 2026-08-11 19:36 by 冰心玉壶晴
[基金申请] 为什么网上很多人说本周 12号出结果 +6 瞬息宇宙 2026-08-10 7/350 2026-08-11 19:25 by Tide man
[硕博家园] 读博的好处 +3 lnee 2026-08-11 3/150 2026-08-11 18:10 by 希望我好好的
[基金申请] 听说今天filecode变了 +26 布布和一二 2026-08-06 49/2450 2026-08-11 13:18 by WH3796
[基金申请] 确定了,国自然21号放榜 +6 布布和一二 2026-08-10 7/350 2026-08-10 19:15 by 2000zf36392
[基金申请] 2026国自然放榜时间 +9 布布和一二 2026-08-08 9/450 2026-08-10 11:22 by xxxx2020
[基金申请] 这样的filecode谁见过 +11 布布和一二 2026-08-08 22/1100 2026-08-10 11:10 by wmfsnow
[基金申请] 面上项目filecode邪修 +5 西山十月 2026-08-09 7/350 2026-08-10 07:32 by 仁砚薪传
[基金申请] filecode与中标关系的预测 +5 布布和一二 2026-08-07 5/250 2026-08-09 16:15 by 袁向阳007
[基金申请] 关于豆爷回答的JTJC与%2F数量 +5 yang182083 2026-08-06 7/350 2026-08-08 18:29 by zhanghaozhu
[基金申请] 固定端突然变了,今天 +6 archvillain 2026-08-06 10/500 2026-08-07 16:03 by 医学老男孩
[基金申请] filecode变化情况 +6 布布和一二 2026-08-07 22/1100 2026-08-07 14:45 by 且听虎啸
[基金申请] 大家散了吧,后缀研究没有意义,别浪费时间了,过好目前的每一天,不要焦虑 +5 Tide man 2026-08-06 7/350 2026-08-07 13:11 by 医学老男孩
[基金申请] filecode +14 等待解的谜 2026-08-06 19/950 2026-08-07 12:20 by wlwhappy
信息提示
请填处理意见