24小时热门版块排行榜    

查看: 539  |  回复: 6
当前主题已经存档。
【悬赏金币】回答本帖问题,作者hfcas将赠送您 2 个金币

hfcas

铁杆木虫 (正式写手)

[求助] 关于实验和模型计算中有效数字 与 小数位数的问题

各位好
有个问题请教大家。

写了篇小文章,大概是这样的:

其中涉及到实验数据如下(为吸光度,保留的是4位小数。):
0.0841        0.0913        0.0975        0.1035        0.1086        0.1132

问题1:
这里应该保留4位小数,还是要按照前3个数字来定为3个有效数字呢?究竟按有效数字来,还是小数来呢?
ps:虽然平时都讲有效数字,但自己觉得这种情况下应该保留4位小数才对,可是专家审稿意见里说 “需要注意数据的有效数字,尤其是试验测试值

问题2:
对上述数据,利用软件对它做拟合模型。比如用直线来拟合的话,那么得到
Y=AX+B 这样的表达式,A,B都会对应一个常数
请问这种情况下,A和B应该保留多少位小数呢?与上述数据一样也保留4位小数吗?还是多保留1位呢? 或者不按小数位数来,而按有效位数来?
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

抢沙发

★ ★ ★
hfcas(金币+1,VIP+0):多谢帮顶 1-4 10:31
hfcas(金币+2,VIP+0): 1-5 12:50
2楼2010-01-04 08:04:20
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zhanyz

银虫 (小有名气)

★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★
hfcas(金币+2,VIP+0):仪器可以精确到第4位小数的 1-4 10:31
hfcas(金币+10,VIP+0): 1-5 12:50
保留3位小数。这是仪器可测的精度。对你这几个数据,和保留3位有效数字是一致的。0.08几以上可多算一位有效数字。
3楼2010-01-04 08:24:57
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hfcas

铁杆木虫 (正式写手)

引用回帖:
Originally posted by zhanyz at 2010-1-4 08:24:
保留3位小数。这是仪器可测的精度。对你这几个数据,和保留3位有效数字是一致的。0.08几以上可多算一位有效数字。

但是仪器可以精确到第4位的。
而且看其他类似的文献,都是采用4 位小数的。。
4楼2010-01-04 10:16:09
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hfcas

铁杆木虫 (正式写手)

补充一下,可能上面没有描述清楚。

大家看如下数字
0.0841        0.0913        0.0975        0.1035        0.1086        0.1132
如果按照有效数字来说,前3个 只有3位有效数字;后3个有4位有效数字

但是如果按照有效数字来统一,都采用3位有效数字,这个时候,后面3个就只有3位小数了,觉得更有问题。

所以觉得应该统一4位小数才对。
5楼2010-01-04 10:21:13
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

ytinghost3

铁杆木虫 (著名写手)

★ ★ ★
hfcas(金币+1,VIP+0):感谢讨论 A,B觉得最少也应该保留4位才对吧 1-4 12:21
hfcas(金币+2,VIP+0): 1-5 12:50
保留4位有效数字,对于Y=AX+B 中的A,B保留三位就好。
谎言与誓言的区别在于:一个是听的人当真了,一个是说的人当真了。
6楼2010-01-04 11:33:35
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hfcas

铁杆木虫 (正式写手)

引用回帖:
Originally posted by ytinghost3 at 2010-1-4 11:33:
保留4位有效数字,对于Y=AX+B 中的A,B保留三位就好。

如果保留4位有效数字
0.0841        0.0913        0.0975        0.1035        0.1086        0.1132
前面的3个只有3个有效数字的。。。
我觉得这种应该用小数位才对 不能用有效数字。。
7楼2010-01-04 12:20:40
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 hfcas 的主题更新
不应助 确定回帖应助 (注意:应助才可能被奖励,但不允许灌水,必须填写15个字符以上)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 应该是93bebmhtak前后十一个字符比较关键 +22 Lanmanbaby 2026-08-09 36/1800 2026-08-12 22:50 by sdfapple719
[基金申请] 不应该看fileCode +5 且听虎啸 2026-08-12 6/300 2026-08-12 16:26 by Tide man
[基金申请] 好奇怪的filecode +5 布布和一二 2026-08-08 6/300 2026-08-12 16:11 by 云上清扬
[基金申请] 长年满屏的广告,版主太不责任了。基金也等的急 +4 gltch 2026-08-12 4/200 2026-08-12 16:08 by eulota
[论文投稿] 职称评审,求友友推荐见刊最快的期刊 +4 工厂打螺丝 2026-08-08 4/200 2026-08-12 09:18 by hansi2025
[基金申请] 小木虫上这么多卖论文的,真有人买论文么?感觉没必要啊 +8 Tide man 2026-08-10 9/450 2026-08-11 20:39 by beefly
[基金申请] 有时候,自然基金真的不能太认真 (我的申报经验) +3 majunge000 2026-08-11 4/200 2026-08-11 20:13 by lch2012
[基金申请] 帮忙看看fileCode +7 wwncly 2026-08-10 13/650 2026-08-11 19:36 by 冰心玉壶晴
[基金申请] 我的国基提前知道中了,可是同事的操作让我实在接受不了,怎么会有这样的人 +8 家与远方 2026-08-10 13/650 2026-08-11 09:49 by 家与远方
[基金申请] 基金中了 +15 laoda193707 2026-08-06 15/750 2026-08-11 00:11 by jiafei2190
[基金申请] 关于代码变化问题,想知道的进来 +17 且听虎啸 2026-08-07 24/1200 2026-08-10 18:35 by zhangduo2008
[基金申请] 国自然结果 +4 Vierhys 2026-08-10 8/400 2026-08-10 15:06 by Vierhys
[基金申请] fileCode有新解读? +10 Tide man 2026-08-08 18/900 2026-08-09 12:55 by 仁砚薪传
[基金申请] 关于豆爷回答的JTJC与%2F数量 +5 yang182083 2026-08-06 7/350 2026-08-08 18:29 by zhanghaozhu
[基金申请] 国基金的申报应该改成非等额制,评价高的钱多评价低的钱少,但是增加资助率 +7 a089 2026-08-07 7/350 2026-08-08 18:05 by gltch
[基金申请] 化学口download_prp&fileCode的固定段好像这几天一直没变,有变的大神么? +3 Tide man 2026-08-07 4/200 2026-08-07 22:39 by Tide man
[基金申请] 固定端突然变了,今天 +6 archvillain 2026-08-06 10/500 2026-08-07 16:03 by 医学老男孩
[基金申请] filecode变化情况 +6 布布和一二 2026-08-07 22/1100 2026-08-07 14:45 by 且听虎啸
[基金申请] filecode +14 等待解的谜 2026-08-06 19/950 2026-08-07 12:20 by wlwhappy
[基金申请] filecode +8 布布和一二 2026-08-06 11/550 2026-08-06 20:41 by tangpu318
信息提示
请填处理意见