应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 专业学科区 » 数学 » 概率论与统计 » 【求助】三个一样的值，SD计算出来怎么不是“0”
31/1返回列表
查看: 1403  |  回复: 2
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看

weststone

金虫 (职业作家)

[交流] 【求助】三个一样的值，SD计算出来怎么不是“0”

三个值得分别是 0.182，0.182，0.182

用excel里面的STDEV，STDEVA，STDEVP，STDEVPA函数计算，值怎么是 3.39935 E-17， 而不是“0”

哪位，能不能给点解释？谢谢。
回复此楼

» 猜你喜欢

» 抢金币啦！回帖就可以得到:

查看全部散金贴
1楼 2011-01-13 15:54:21
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

Pchief

铁杆木虫 (正式写手)
weststone(金币+10):谢谢！ 2011-01-13 16:52:32
这是浮点数运算误差问题，因为计算机CPU的浮点数协处理器精度有限，所以在存储中间结果时会发生舍入问题，导致最后的结果产生一定的误差。
赞一下 回复此楼
2楼2011-01-13 16:29:32
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

Ptolomaeus

铁杆木虫 (正式写手)
★
小木虫(金币+0.5):给个红包，谢谢回帖交流
引用回帖:
Originally posted by Pchief at 2011-01-13 16:29:32:
这是浮点数运算误差问题，因为计算机CPU的浮点数协处理器精度有限，所以在存储中间结果时会发生舍入问题，导致最后的结果产生一定的误差。

双精度浮点数的相对机器精度是2E-52 即大约10E-16
赞一下(1人) 回复此楼
3楼2011-01-13 17:39:29
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 weststone 的主题更新
31/1返回列表
普通表情 龙 兔 虎 猫 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 售SCI一区T0P文章，我:8.O.55.1.O.54,科目齐全,可+急 +3 hKe7U1kad5Sg 2026-10-31 6/300 2026-11-01 22:27 by xzcv0Tehd8lQ
[基金申请] 售SCI一区T0P文章，我:8O.55.1.O.54,科目全,可伽急 +3 hKe7U1kad5Sg 2026-10-31 6/300 2026-11-01 22:11 by xzcv0Tehd8lQ
[考博] 售SCI一区文章，我:8O5.5.1.O5.4,科目全,可伽急 +3 hKe7U1kad5Sg 2026-10-31 6/300 2026-11-01 22:11 by xzcv0Tehd8lQ
[硕博家园] 售SCI一区T0P文章，我:8.O55.1.O.54,科目全,可十急 +4 xvJS1BYDxvBS 2026-10-31 7/350 2026-11-01 22:05 by xzcv0Tehd8lQ
[公派出国] 售SCI-T0P文章，我:8O.5.5.1.O.54,科目齐全,可+急 +4 1uaZt2kAZj2S 2026-10-30 8/400 2026-11-01 21:35 by xzcv0Tehd8lQ
[找工作] 售SCI一区T0P文章，我:8.O.55.1.O54,科目全,可伽急 +4 1uaZt2kAZj2S 2026-10-30 11/550 2026-11-01 21:35 by xzcv0Tehd8lQ
[教师之家] 售SCI-T0P文章，我:8O.5.5.1.O.54,科目齐全,可+急 +6 X5bHxOULxFqb 2026-10-30 16/800 2026-11-01 21:19 by xzcv0Tehd8lQ
[论文投稿] 售SCI一区T0P文章，我:8.O.55.1.O54,科目全,可伽急 +3 hKe7U1kad5Sg 2026-10-31 5/250 2026-11-01 20:03 by xzcv0Tehd8lQ
[公派出国] 售SCI一区T0P文章，我:8.O.55.1.O.5.4,科目全,可+急 +4 1uaZt2kAZj2S 2026-10-30 15/750 2026-11-01 16:52 by BCdvBAEpt3zm
[考博] 售SCI文章，我:8O.5.5.1O.54,科目全,可十急 +3 1uaZt2kAZj2S 2026-10-30 13/650 2026-11-01 16:48 by BCdvBAEpt3zm
[考研] 售SCI一区T0P文章，我:8.O.55.1.O.54,科目齐全,可+急 +3 1uaZt2kAZj2S 2026-10-30 18/900 2026-11-01 16:48 by BCdvBAEpt3zm
[考博] 售SCI一区T0P文章，我:8.O.55.1.O.5.4,科目全,可+急 +5 X5bHxOULxFqb 2026-10-30 22/1100 2026-11-01 16:35 by BCdvBAEpt3zm
[考研] 售SCI-T0P文章，我:8O.5.5.1.O.54,科目齐全,可+急 +4 1uaZt2kAZj2S 2026-10-30 13/650 2026-11-01 14:37 by BCdvBAEpt3zm
[公派出国] 售SCI-T0P文章，我:8O.5.5.1.O.54,科目齐全,可+急 +3 1uaZt2kAZj2S 2026-10-30 14/700 2026-11-01 14:24 by BCdvBAEpt3zm
[考研] 售SCI一区T0P文章，我:8.O.55.1.O54,科目全,可伽急 +4 1uaZt2kAZj2S 2026-10-31 8/400 2026-11-01 12:38 by BCdvBAEpt3zm
[考博] 售SCI一区文章，我:8.O.55.1.O.54,科目齐全,可伽急 +3 xvJS1BYDxvBS 2026-10-31 4/200 2026-11-01 11:01 by BCdvBAEpt3zm
[基金申请] 售SCI-T0P文章，我:8O.5.5.1.O.54,科目齐全,可+急 +3 1uaZt2kAZj2S 2026-10-30 14/700 2026-11-01 10:43 by BCdvBAEpt3zm
[博后之家] 售SCI文章，我:8O5.5.1.O.54,科目齐全,可+急 +3 1uaZt2kAZj2S 2026-10-30 15/750 2026-11-01 05:22 by YXM1FDCSE8Bn
[硕博家园] 申博自荐 2篇一区TOP+1篇EI+2公开发明专利 2027博士申请 +3 小小阿光 2026-10-27 3/150 2026-10-29 23:56 by 起风了的快乐
[考博] 申博求助 20+3 Katrinae 2026-10-26 4/200 2026-10-27 09:56 by 北京莱茵编辑
信息提示
关闭
请填处理意见
关闭