24小时热门版块排行榜    

查看: 2486  |  回复: 6
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

江宁小妖

新虫 (正式写手)

[求助] 求助:关于XRD计算晶格常数的精度问题。

RT。测试的波长是0.15405nm,角度分辨为万分之五度。请问计算出来的晶格常数可否精确到0.00001nm呢?能精确到小数点后几位是如何得到的呢?谢谢。
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xhtangxh

木虫 (著名写手)

有木有虫

【答案】应助回帖

感谢参与,应助指数 +1
个人认为那是不可能的。仪器的测量精度只能保证最小分辨度,即角度数值的精确位数,而最终数据的有效位数是受测量和计算过程涉及的不同数据有效位数制约的,一般由有效位数少的数据决定。找书看看有关数据处理中误差分析就会明白的。另外,测量精度和准确性是两码事,仪器有足够高的精度不代表数据的准确性也足够高。
单纯从角度测量来看,一般物质的晶格常数在几埃至数十埃,晶面间距在零点几至数埃,即~10^-2nm量级以上。仪器精度5*10^-4度,如果在大于20度范围测量2theta角度,即theta值最小取值为10.0000度,前5位数字是精确的,最后一位是不确定的,有效位数为5,当theta值取值小于10.0000度,有效位数为4。要达到0.00001nm即10^-5nm精度,至少要保证万分位上数值是准确的,即至少要有5位有效数字。在计算过程会有有效数字位数损失,因此仅角度数据测量一项精确度就达不到要求。
7楼2013-07-25 12:35:46
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 江宁小妖 的主题更新
信息提示
请填处理意见