| 查看: 800 | 回复: 4 | |||
| 当前只显示满足指定条件的回帖，点击这里查看本话题的所有回帖 | |||
[交流]
发现Matlab中一个有趣的现象 已有2人参与
|
|||
|
发现Matlab中一个有趣的现象，与大家分享 （不知道原因，但感觉很有意思  ）在Matlab 中，设置浮点数精度是long e 令其显示10-a的值，有如下发现：（一下现象从10-20开始出现） format long e >> 0.00000000000000000001 ans = 1.000000000000000e-020 10e-20 >> 0.000000000000000000001 ans = 9.999999999999999e-022 10e-21 >> 0.0000000000000000000001 ans = 1.000000000000000e-022 10e-22 >> 0.00000000000000000000001 ans = 1.000000000000000e-023 10e-23 >> 0.000000000000000000000001 ans = 9.999999999999999e-025 10e-24 >> 0.0000000000000000000000001 ans = 1.000000000000000e-025 10e-25 >> 0.00000000000000000000000001 ans = 1.000000000000000e-026 10e-26 >> 0.000000000000000000000000001 ans = 1.000000000000000e-027 10e-27 >> 0.0000000000000000000000000001 ans = 1.000000000000000e-028 10e-28 >> 0.00000000000000000000000000001 ans = 9.999999999999999e-030 10e-29 >> 0.000000000000000000000000000001 ans = 1.000000000000000e-030 10e-30 >> 0.0000000000000000000000000000001 ans = 1.000000000000000e-031 10e-31 >> 0.00000000000000000000000000000001 ans = 1.000000000000000e-032 10e-32 >> 0.000000000000000000000000000000001 ans = 1.000000000000000e-033 10e-33 >> 0.0000000000000000000000000000000001 ans = 9.999999999999999e-035 10e-34 (34-29=5) >> 0.0000000000000000000000000000000000001 ans = 1.000000000000000e-037 10e-37 >> 0.00000000000000000000000000000000000001 ans = 1.000000000000000e-038 10e-38 >> 0.000000000000000000000000000000000000001 ans = 9.999999999999999e-040 10e-39 (39-34=5) 。。。。。。 预计每减小到原来的10-5，就会出现一次这种现象。 |
回复此楼» 猜你喜欢
Cas 72-43-5需要30g，定制合成，能接单的留言
已经有8人回复
-
求助:我三月中下旬出站，青基依托单位怎么办？
已经有6人回复
-
北京211副教授，35岁，想重新出发，去国外做博后，怎么样？
已经有8人回复
-
磺酰氟产物，毕不了业了！
已经有5人回复
-
论文终于录用啦！满足毕业条件了
已经有25人回复
-
2026年机械制造与材料应用国际会议 （ICMMMA 2026）
已经有3人回复
-
自荐读博
已经有3人回复
-
不自信的我
已经有5人回复
-
投稿Elsevier的杂志（返修），总是在选择OA和subscription界面被踢皮球
已经有8人回复
2楼2011-06-02 21:59:58