应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 专业学科区 » 数学 » 概率论与统计 » 【求助】三个一样的值，SD计算出来怎么不是“0”
31/1返回列表
查看: 1294  |  回复: 2
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看

weststone

金虫 (职业作家)

[交流] 【求助】三个一样的值，SD计算出来怎么不是“0”

三个值得分别是 0.182，0.182，0.182

用excel里面的STDEV，STDEVA，STDEVP，STDEVPA函数计算，值怎么是 3.39935 E-17， 而不是“0”

哪位，能不能给点解释？谢谢。
回复此楼

» 猜你喜欢

» 抢金币啦！回帖就可以得到:

查看全部散金贴
1楼 2011-01-13 15:54:21
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

Pchief

铁杆木虫 (正式写手)
weststone(金币+10):谢谢！ 2011-01-13 16:52:32
这是浮点数运算误差问题，因为计算机CPU的浮点数协处理器精度有限，所以在存储中间结果时会发生舍入问题，导致最后的结果产生一定的误差。
赞一下 回复此楼
2楼2011-01-13 16:29:32
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

Ptolomaeus

铁杆木虫 (正式写手)
★
小木虫(金币+0.5):给个红包，谢谢回帖交流
引用回帖:
Originally posted by Pchief at 2011-01-13 16:29:32:
这是浮点数运算误差问题，因为计算机CPU的浮点数协处理器精度有限，所以在存储中间结果时会发生舍入问题，导致最后的结果产生一定的误差。

双精度浮点数的相对机器精度是2E-52 即大约10E-16
赞一下(1人) 回复此楼
3楼2011-01-13 17:39:29
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 weststone 的主题更新
31/1返回列表
普通表情 龙 兔 虎 猫 高级回复 (可上传附件)
信息提示
关闭
请填处理意见
关闭