应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 专业学科区 » 数学 » 概率论与统计 » 【求助】三个一样的值，SD计算出来怎么不是“0”
31/1返回列表
查看: 1309  |  回复: 2
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看

weststone

金虫 (职业作家)

[交流] 【求助】三个一样的值，SD计算出来怎么不是“0”

三个值得分别是 0.182，0.182，0.182

用excel里面的STDEV，STDEVA，STDEVP，STDEVPA函数计算，值怎么是 3.39935 E-17， 而不是“0”

哪位，能不能给点解释？谢谢。
回复此楼

» 猜你喜欢

» 抢金币啦！回帖就可以得到:

查看全部散金贴
1楼 2011-01-13 15:54:21
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

Pchief

铁杆木虫 (正式写手)
weststone(金币+10):谢谢！ 2011-01-13 16:52:32
这是浮点数运算误差问题，因为计算机CPU的浮点数协处理器精度有限，所以在存储中间结果时会发生舍入问题，导致最后的结果产生一定的误差。
赞一下 回复此楼
2楼2011-01-13 16:29:32
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

Ptolomaeus

铁杆木虫 (正式写手)
★
小木虫(金币+0.5):给个红包，谢谢回帖交流
引用回帖:
Originally posted by Pchief at 2011-01-13 16:29:32:
这是浮点数运算误差问题，因为计算机CPU的浮点数协处理器精度有限，所以在存储中间结果时会发生舍入问题，导致最后的结果产生一定的误差。

双精度浮点数的相对机器精度是2E-52 即大约10E-16
赞一下(1人) 回复此楼
3楼2011-01-13 17:39:29
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 weststone 的主题更新
31/1返回列表
普通表情 龙 兔 虎 猫 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 307求调剂 +11 冷笙123 2026-03-17 11/550 2026-03-22 20:16 by edmund7
[考研] 308求调剂 +3 墨墨漠 2026-03-21 3/150 2026-03-22 16:54 by i_cooler
[考研] 306求调剂 +5 来好运来来来 2026-03-22 5/250 2026-03-22 16:17 by BruceLiu320
[考研] 070300化学求调剂 +3 苑豆豆 2026-03-20 3/150 2026-03-22 14:48 by ColorlessPI
[考研] 求调剂 +7 Auroracx 2026-03-22 7/350 2026-03-22 12:38 by 素颜倾城1988
[考研] 268求调剂 +9 简单点0 2026-03-17 9/450 2026-03-21 15:37 by lature00
[考研] 求调剂 +6 Mqqqqqq 2026-03-19 6/300 2026-03-21 08:04 by JourneyLucky
[考研] 346求调剂[0856] +4 WayneLim327 2026-03-16 7/350 2026-03-21 04:02 by JourneyLucky
[考研] 机械专硕299求调剂至材料 +3 kkcoco25 2026-03-16 4/200 2026-03-21 03:52 by JourneyLucky
[考研] 材料 336 求调剂 +3 An@. 2026-03-18 4/200 2026-03-21 01:39 by JourneyLucky
[考研] 一志愿华中科技大学，080502，354分求调剂 +5 守候夕阳CF 2026-03-18 5/250 2026-03-21 01:06 by JourneyLucky
[考研] 304求调剂 +6 曼殊2266 2026-03-18 6/300 2026-03-21 00:32 by JourneyLucky
[考研] 288求调剂 +16 于海海海海 2026-03-19 16/800 2026-03-20 22:28 by JourneyLucky
[考研] 317求调剂 +5 申子申申 2026-03-19 9/450 2026-03-20 22:26 by JourneyLucky
[考研] 材料与化工 322求调剂 +4 然11 2026-03-19 4/200 2026-03-20 22:12 by luoyongfeng
[考研] 中南大学化学学硕337求调剂 +3 niko- 2026-03-19 6/300 2026-03-20 21:58 by luoyongfeng
[考研] 求调剂 +3 暗涌afhb 2026-03-16 3/150 2026-03-20 00:28 by 河南大学校友
[考研] 085600材料与化工求调剂 +6 绪幸与子 2026-03-17 6/300 2026-03-19 13:27 by houyaoxu
[考研] 308求调剂 +4 是Lupa啊 2026-03-16 4/200 2026-03-17 17:12 by ruiyingmiao
[考研] [导师推荐]西南科技大学国防/材料导师推荐 +3 尖角小荷 2026-03-16 6/300 2026-03-16 23:21 by 尖角小荷
信息提示
关闭
请填处理意见
关闭