24小时热门版块排行榜    

查看: 378  |  回复: 6
当前主题已经存档。
【悬赏金币】回答本帖问题,作者hfcas将赠送您 2 个金币
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

hfcas

铁杆木虫 (正式写手)

[求助] 关于实验和模型计算中有效数字 与 小数位数的问题

各位好
有个问题请教大家。

写了篇小文章,大概是这样的:

其中涉及到实验数据如下(为吸光度,保留的是4位小数。):
0.0841        0.0913        0.0975        0.1035        0.1086        0.1132

问题1:
这里应该保留4位小数,还是要按照前3个数字来定为3个有效数字呢?究竟按有效数字来,还是小数来呢?
ps:虽然平时都讲有效数字,但自己觉得这种情况下应该保留4位小数才对,可是专家审稿意见里说 “需要注意数据的有效数字,尤其是试验测试值

问题2:
对上述数据,利用软件对它做拟合模型。比如用直线来拟合的话,那么得到
Y=AX+B 这样的表达式,A,B都会对应一个常数
请问这种情况下,A和B应该保留多少位小数呢?与上述数据一样也保留4位小数吗?还是多保留1位呢? 或者不按小数位数来,而按有效位数来?

» 猜你喜欢

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hfcas

铁杆木虫 (正式写手)

引用回帖:
Originally posted by ytinghost3 at 2010-1-4 11:33:
保留4位有效数字,对于Y=AX+B 中的A,B保留三位就好。

如果保留4位有效数字
0.0841        0.0913        0.0975        0.1035        0.1086        0.1132
前面的3个只有3个有效数字的。。。
我觉得这种应该用小数位才对 不能用有效数字。。
7楼2010-01-04 12:20:40
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 7 个回答

zhanyz

银虫 (小有名气)

★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★
hfcas(金币+2,VIP+0):仪器可以精确到第4位小数的 1-4 10:31
hfcas(金币+10,VIP+0): 1-5 12:50
保留3位小数。这是仪器可测的精度。对你这几个数据,和保留3位有效数字是一致的。0.08几以上可多算一位有效数字。
3楼2010-01-04 08:24:57
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hfcas

铁杆木虫 (正式写手)

引用回帖:
Originally posted by zhanyz at 2010-1-4 08:24:
保留3位小数。这是仪器可测的精度。对你这几个数据,和保留3位有效数字是一致的。0.08几以上可多算一位有效数字。

但是仪器可以精确到第4位的。
而且看其他类似的文献,都是采用4 位小数的。。
4楼2010-01-04 10:16:09
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hfcas

铁杆木虫 (正式写手)

补充一下,可能上面没有描述清楚。

大家看如下数字
0.0841        0.0913        0.0975        0.1035        0.1086        0.1132
如果按照有效数字来说,前3个 只有3位有效数字;后3个有4位有效数字

但是如果按照有效数字来统一,都采用3位有效数字,这个时候,后面3个就只有3位小数了,觉得更有问题。

所以觉得应该统一4位小数才对。
5楼2010-01-04 10:21:13
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
不应助 确定回帖应助 (注意:应助才可能被奖励,但不允许灌水,必须填写15个字符以上)
信息提示
请填处理意见