应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 专业学科区 » 数学 » 概率论与统计 » 【求助】三个一样的值，SD计算出来怎么不是“0”
31/1返回列表
查看: 1360  |  回复: 2
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看

weststone

金虫 (职业作家)

[交流] 【求助】三个一样的值，SD计算出来怎么不是“0”

三个值得分别是 0.182，0.182，0.182

用excel里面的STDEV，STDEVA，STDEVP，STDEVPA函数计算，值怎么是 3.39935 E-17， 而不是“0”

哪位，能不能给点解释？谢谢。
回复此楼

» 猜你喜欢

» 抢金币啦！回帖就可以得到:

查看全部散金贴
1楼 2011-01-13 15:54:21
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

Pchief

铁杆木虫 (正式写手)
weststone(金币+10):谢谢！ 2011-01-13 16:52:32
这是浮点数运算误差问题，因为计算机CPU的浮点数协处理器精度有限，所以在存储中间结果时会发生舍入问题，导致最后的结果产生一定的误差。
赞一下 回复此楼
2楼2011-01-13 16:29:32
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

Ptolomaeus

铁杆木虫 (正式写手)
★
小木虫(金币+0.5):给个红包，谢谢回帖交流
引用回帖:
Originally posted by Pchief at 2011-01-13 16:29:32:
这是浮点数运算误差问题，因为计算机CPU的浮点数协处理器精度有限，所以在存储中间结果时会发生舍入问题，导致最后的结果产生一定的误差。

双精度浮点数的相对机器精度是2E-52 即大约10E-16
赞一下(1人) 回复此楼
3楼2011-01-13 17:39:29
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 weststone 的主题更新
31/1返回列表
普通表情 龙 兔 虎 猫 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 售一区SCI文章T0P，我:8O.551.O54,科目全,可十急 +3 AS6fX1tr1on4 2026-08-02 8/400 2026-08-02 18:44 by ca3DVAx4OB19
[博后之家] 售SCI一区T0P文章，我:8.O.55.1.O.5.4,科目全,可+急 +3 AS6fX1tr1on4 2026-08-02 8/400 2026-08-02 18:44 by ca3DVAx4OB19
[找工作] 售SCI一区文章，我:8O5.5.1.O5.4,科目全,可伽急 +3 AS6fX1tr1on4 2026-08-02 4/200 2026-08-02 18:41 by ca3DVAx4OB19
[教师之家] 售SCI一区T0P文章，我:8.O.55.1.O.54,科目齐全,可+急 +3 AS6fX1tr1on4 2026-08-02 6/300 2026-08-02 18:34 by ca3DVAx4OB19
[考研] 售SCI一区文章，我:8O5.5.1.O5.4,科目全,可伽急 +3 AS6fX1tr1on4 2026-08-02 9/450 2026-08-02 18:27 by ca3DVAx4OB19
[博后之家] 售SCI一区文章，我:8O5.5.1.O5.4,科目全,可伽急 +3 AS6fX1tr1on4 2026-08-02 8/400 2026-08-02 18:24 by ca3DVAx4OB19
[教师之家] 售SCI一区文章，我:8.O.551.O.5.4,科目全,可伽急 +3 AS6fX1tr1on4 2026-08-02 10/500 2026-08-02 18:18 by ca3DVAx4OB19
[论文投稿] 售SCI一区T0P文章，我:8O.55.1.O.5.4,科目齐全,可+急 +3 AS6fX1tr1on4 2026-08-02 13/650 2026-08-02 18:14 by ca3DVAx4OB19
[考博] 售SCI一区T0P文章，我:8.O.55.1.O54,科目全,可伽急 +4 cBGhfJFuNMca 2026-08-02 16/800 2026-08-02 18:12 by ca3DVAx4OB19
[博后之家] 售SCI一区文章，我:8.O.551.O.5.4,科目全,可伽急 +4 cBGhfJFuNMca 2026-08-02 16/800 2026-08-02 18:11 by ca3DVAx4OB19
[考博] 售SCI一区T0P文章，我:8.O.55.1.O.54,科目齐全,可+急 +4 cBGhfJFuNMca 2026-08-02 14/700 2026-08-02 18:11 by ca3DVAx4OB19
[博后之家] 售SCI-T0P文章，我:8O.5.5.1.O.54,科目齐全,可+急 +4 cBGhfJFuNMca 2026-08-02 20/1000 2026-08-02 18:04 by ca3DVAx4OB19
[基金申请] 面上再次挂了，太难了，躺也躺不了，倦也卷不过，小学校之殇！ +18 低垂的野花 2026-07-31 24/1200 2026-08-02 16:03 by swallowwh
[有机交流] 一个有机合成实验室都需要哪些设备？ 50+3 kf2781974 2026-07-31 7/350 2026-08-02 07:59 by 88817753
[基金申请] 微信指数没变化，科研之友没阅读 +14 wangze12014 2026-07-28 18/900 2026-07-31 18:35 by lzchaihuo
[高分子] HXDI做水性聚氨酯乳液，是不是特别容易出渣 15+3 yuyusuv 2026-07-29 3/150 2026-07-31 09:21 by huizingga
[基金申请] 系统今天又提示维护了，估计离放榜不远了 +11 winnerche 2026-07-29 15/750 2026-07-30 23:08 by jnhyjjm
[基金申请] 你们的时间戳变了吗 +3 archvillain 2026-07-30 4/200 2026-07-30 18:53 by levinzhwen
[有机交流] 产物和副产物价值比较 30+4 小汤02 2026-07-27 5/250 2026-07-30 12:44 by czyzsu
[基金申请] 同事接到电话了，我却没有 +4 1234567wang 2026-07-27 4/200 2026-07-28 10:11 by GOODLUCKER
信息提示
关闭
请填处理意见
关闭