24小时热门版块排行榜    

查看: 440  |  回复: 6
当前主题已经存档。
【悬赏金币】回答本帖问题,作者hfcas将赠送您 2 个金币

hfcas

铁杆木虫 (正式写手)

[求助] 关于实验和模型计算中有效数字 与 小数位数的问题

各位好
有个问题请教大家。

写了篇小文章,大概是这样的:

其中涉及到实验数据如下(为吸光度,保留的是4位小数。):
0.0841        0.0913        0.0975        0.1035        0.1086        0.1132

问题1:
这里应该保留4位小数,还是要按照前3个数字来定为3个有效数字呢?究竟按有效数字来,还是小数来呢?
ps:虽然平时都讲有效数字,但自己觉得这种情况下应该保留4位小数才对,可是专家审稿意见里说 “需要注意数据的有效数字,尤其是试验测试值

问题2:
对上述数据,利用软件对它做拟合模型。比如用直线来拟合的话,那么得到
Y=AX+B 这样的表达式,A,B都会对应一个常数
请问这种情况下,A和B应该保留多少位小数呢?与上述数据一样也保留4位小数吗?还是多保留1位呢? 或者不按小数位数来,而按有效位数来?

» 猜你喜欢

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

抢沙发

★ ★ ★
hfcas(金币+1,VIP+0):多谢帮顶 1-4 10:31
hfcas(金币+2,VIP+0): 1-5 12:50
2楼2010-01-04 08:04:20
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zhanyz

银虫 (小有名气)

★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★
hfcas(金币+2,VIP+0):仪器可以精确到第4位小数的 1-4 10:31
hfcas(金币+10,VIP+0): 1-5 12:50
保留3位小数。这是仪器可测的精度。对你这几个数据,和保留3位有效数字是一致的。0.08几以上可多算一位有效数字。
3楼2010-01-04 08:24:57
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hfcas

铁杆木虫 (正式写手)

引用回帖:
Originally posted by zhanyz at 2010-1-4 08:24:
保留3位小数。这是仪器可测的精度。对你这几个数据,和保留3位有效数字是一致的。0.08几以上可多算一位有效数字。

但是仪器可以精确到第4位的。
而且看其他类似的文献,都是采用4 位小数的。。
4楼2010-01-04 10:16:09
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hfcas

铁杆木虫 (正式写手)

补充一下,可能上面没有描述清楚。

大家看如下数字
0.0841        0.0913        0.0975        0.1035        0.1086        0.1132
如果按照有效数字来说,前3个 只有3位有效数字;后3个有4位有效数字

但是如果按照有效数字来统一,都采用3位有效数字,这个时候,后面3个就只有3位小数了,觉得更有问题。

所以觉得应该统一4位小数才对。
5楼2010-01-04 10:21:13
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

ytinghost3

铁杆木虫 (著名写手)

★ ★ ★
hfcas(金币+1,VIP+0):感谢讨论 A,B觉得最少也应该保留4位才对吧 1-4 12:21
hfcas(金币+2,VIP+0): 1-5 12:50
保留4位有效数字,对于Y=AX+B 中的A,B保留三位就好。
谎言与誓言的区别在于:一个是听的人当真了,一个是说的人当真了。
6楼2010-01-04 11:33:35
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hfcas

铁杆木虫 (正式写手)

引用回帖:
Originally posted by ytinghost3 at 2010-1-4 11:33:
保留4位有效数字,对于Y=AX+B 中的A,B保留三位就好。

如果保留4位有效数字
0.0841        0.0913        0.0975        0.1035        0.1086        0.1132
前面的3个只有3个有效数字的。。。
我觉得这种应该用小数位才对 不能用有效数字。。
7楼2010-01-04 12:20:40
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 hfcas 的主题更新
不应助 确定回帖应助 (注意:应助才可能被奖励,但不允许灌水,必须填写15个字符以上)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 0703化学336分求调剂 +6 zbzihdhd 2026-03-15 7/350 2026-03-18 09:53 by zhukairuo
[考研] 298-一志愿中国农业大学-求调剂 +4 手机用户 2026-03-17 4/200 2026-03-18 09:30 by b不易
[教师之家] 焦虑 +8 水冰月月野兔 2026-03-13 10/500 2026-03-18 09:21 by 咪呜喵呜
[考研] 265求调剂 +3 梁梁校校 2026-03-17 3/150 2026-03-18 09:12 by zhukairuo
[考研] 材料与化工求调剂 +6 为学666 2026-03-16 6/300 2026-03-17 20:15 by peike
[考研] 290求调剂 +3 p asserby. 2026-03-15 4/200 2026-03-17 16:35 by wangkm
[考研] 085600材料与化工 +4 安全上岸! 2026-03-16 4/200 2026-03-17 14:02 by 勇敢太监王公公
[考研] 08工科 320总分 求调剂 +4 梨花珞晚风 2026-03-17 4/200 2026-03-17 13:38 by houyaoxu
[考博] 26申博 +4 八旬速览 2026-03-16 4/200 2026-03-17 13:00 by 轻松不少随
[考研] 267一志愿南京工业大学0817化工求调剂 +6 SUICHILD 2026-03-12 6/300 2026-03-17 09:24 by 雾散后相遇lc
[考研] 278求调剂 +3 Yy7400 2026-03-13 3/150 2026-03-17 08:24 by laoshidan
[考研] [导师推荐]西南科技大学国防/材料导师推荐 +3 尖角小荷 2026-03-16 6/300 2026-03-16 23:21 by 尖角小荷
[考研] 0854控制工程 359求调剂 可跨专业 +3 626776879 2026-03-14 9/450 2026-03-16 17:42 by 626776879
[考研] 283求调剂 +10 小楼。 2026-03-12 14/700 2026-03-16 16:08 by 13811244083
[考研] 0703化学调剂,求各位老师收留 +8 秋有木北 2026-03-14 8/400 2026-03-16 15:21 by 哦哦123
[考研] 材料与化工一志愿南昌大学327求调剂推荐 +7 Ncdx123456 2026-03-13 8/400 2026-03-16 12:15 by karry wen
[考研] 求老师收留调剂 +4 jiang姜66 2026-03-14 5/250 2026-03-15 20:11 by Winj1e
[考研] 材料工程调剂 +9 咪咪空空 2026-03-12 9/450 2026-03-13 22:05 by 星空星月
[考研] 333求调剂 +3 球球古力 2026-03-11 3/150 2026-03-13 21:27 by JourneyLucky
[考博] 2026年博士申请 +3 QwQwQW10 2026-03-11 3/150 2026-03-12 17:58 by gxch43
信息提示
请填处理意见