24小时热门版块排行榜    

查看: 439  |  回复: 6
当前主题已经存档。
【悬赏金币】回答本帖问题,作者hfcas将赠送您 2 个金币

hfcas

铁杆木虫 (正式写手)

[求助] 关于实验和模型计算中有效数字 与 小数位数的问题

各位好
有个问题请教大家。

写了篇小文章,大概是这样的:

其中涉及到实验数据如下(为吸光度,保留的是4位小数。):
0.0841        0.0913        0.0975        0.1035        0.1086        0.1132

问题1:
这里应该保留4位小数,还是要按照前3个数字来定为3个有效数字呢?究竟按有效数字来,还是小数来呢?
ps:虽然平时都讲有效数字,但自己觉得这种情况下应该保留4位小数才对,可是专家审稿意见里说 “需要注意数据的有效数字,尤其是试验测试值

问题2:
对上述数据,利用软件对它做拟合模型。比如用直线来拟合的话,那么得到
Y=AX+B 这样的表达式,A,B都会对应一个常数
请问这种情况下,A和B应该保留多少位小数呢?与上述数据一样也保留4位小数吗?还是多保留1位呢? 或者不按小数位数来,而按有效位数来?

» 猜你喜欢

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

抢沙发

★ ★ ★
hfcas(金币+1,VIP+0):多谢帮顶 1-4 10:31
hfcas(金币+2,VIP+0): 1-5 12:50
2楼2010-01-04 08:04:20
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zhanyz

银虫 (小有名气)

★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★
hfcas(金币+2,VIP+0):仪器可以精确到第4位小数的 1-4 10:31
hfcas(金币+10,VIP+0): 1-5 12:50
保留3位小数。这是仪器可测的精度。对你这几个数据,和保留3位有效数字是一致的。0.08几以上可多算一位有效数字。
3楼2010-01-04 08:24:57
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hfcas

铁杆木虫 (正式写手)

引用回帖:
Originally posted by zhanyz at 2010-1-4 08:24:
保留3位小数。这是仪器可测的精度。对你这几个数据,和保留3位有效数字是一致的。0.08几以上可多算一位有效数字。

但是仪器可以精确到第4位的。
而且看其他类似的文献,都是采用4 位小数的。。
4楼2010-01-04 10:16:09
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hfcas

铁杆木虫 (正式写手)

补充一下,可能上面没有描述清楚。

大家看如下数字
0.0841        0.0913        0.0975        0.1035        0.1086        0.1132
如果按照有效数字来说,前3个 只有3位有效数字;后3个有4位有效数字

但是如果按照有效数字来统一,都采用3位有效数字,这个时候,后面3个就只有3位小数了,觉得更有问题。

所以觉得应该统一4位小数才对。
5楼2010-01-04 10:21:13
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

ytinghost3

铁杆木虫 (著名写手)

★ ★ ★
hfcas(金币+1,VIP+0):感谢讨论 A,B觉得最少也应该保留4位才对吧 1-4 12:21
hfcas(金币+2,VIP+0): 1-5 12:50
保留4位有效数字,对于Y=AX+B 中的A,B保留三位就好。
谎言与誓言的区别在于:一个是听的人当真了,一个是说的人当真了。
6楼2010-01-04 11:33:35
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hfcas

铁杆木虫 (正式写手)

引用回帖:
Originally posted by ytinghost3 at 2010-1-4 11:33:
保留4位有效数字,对于Y=AX+B 中的A,B保留三位就好。

如果保留4位有效数字
0.0841        0.0913        0.0975        0.1035        0.1086        0.1132
前面的3个只有3个有效数字的。。。
我觉得这种应该用小数位才对 不能用有效数字。。
7楼2010-01-04 12:20:40
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 hfcas 的主题更新
不应助 确定回帖应助 (注意:应助才可能被奖励,但不允许灌水,必须填写15个字符以上)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 301求调剂 +6 yy要上岸呀 2026-03-17 6/300 2026-03-17 23:58 by 星空星月
[考研] 311求调剂 +9 冬十三 2026-03-15 10/500 2026-03-17 22:53 by lbsjt
[考研] 296求调剂 +5 大口吃饭 身体健 2026-03-13 5/250 2026-03-17 21:05 by 不惑可乐
[考研] 材料专硕326求调剂 +6 墨煜姒莘 2026-03-15 7/350 2026-03-17 17:10 by ruiyingmiao
[考研] 285化工学硕求调剂(081700) +9 柴郡猫_ 2026-03-12 9/450 2026-03-17 10:18 by Sammy2
[考研] 267一志愿南京工业大学0817化工求调剂 +6 SUICHILD 2026-03-12 6/300 2026-03-17 09:24 by 雾散后相遇lc
[考研] 283求调剂 +10 小楼。 2026-03-12 14/700 2026-03-16 16:08 by 13811244083
[考研] 材料与化工一志愿南昌大学327求调剂推荐 +7 Ncdx123456 2026-03-13 8/400 2026-03-16 12:15 by karry wen
[考研] 326求调剂 +3 mlpqaz03 2026-03-15 3/150 2026-03-16 07:33 by Iveryant
[考研] 070305求调剂 +3 mlpqaz03 2026-03-14 4/200 2026-03-15 11:04 by peike
[考研] 【0703化学调剂】-一志愿华中师范大学-六级475 +5 Becho359 2026-03-11 5/250 2026-03-14 11:35 by 哦哦123
[考研] 材料080500调剂求收留 +3 一颗meteor 2026-03-13 3/150 2026-03-14 10:54 by peike
[考研] 266求调剂 +4 学员97LZgn 2026-03-13 4/200 2026-03-14 08:37 by zhukairuo
[考研] 336求调剂 +6 Iuruoh 2026-03-11 6/300 2026-03-13 22:06 by JourneyLucky
[考研] 26调剂/材料/英一数二/总分289/已过A区线 +6 步川酷紫123 2026-03-13 6/300 2026-03-13 21:59 by 星空星月
[考研] 290求调剂 +9 ADT 2026-03-11 9/450 2026-03-13 21:55 by JourneyLucky
[硕博家园] 085600 260分求调剂 +3 天空还下雨么 2026-03-13 5/250 2026-03-13 18:46 by 天空还下雨么
[考研] 0703化学求调剂 +7 绿豆芹菜汤 2026-03-12 7/350 2026-03-13 17:25 by njzyff
[考研] 求调剂 +7 18880831720 2026-03-11 7/350 2026-03-13 16:10 by JourneyLucky
[考研] 333求调剂 +3 152697 2026-03-12 4/200 2026-03-13 07:08 by Iveryant
信息提示
请填处理意见