| 查看: 838 | 回复: 4 | |||
[交流]
发现Matlab中一个有趣的现象 已有2人参与
|
|
发现Matlab中一个有趣的现象,与大家分享 (不知道原因,但感觉很有意思 )在Matlab 中,设置浮点数精度是long e 令其显示10-a的值,有如下发现:(一下现象从10-20开始出现) format long e >> 0.00000000000000000001 ans = 1.000000000000000e-020 10e-20 >> 0.000000000000000000001 ans = 9.999999999999999e-022 10e-21 >> 0.0000000000000000000001 ans = 1.000000000000000e-022 10e-22 >> 0.00000000000000000000001 ans = 1.000000000000000e-023 10e-23 >> 0.000000000000000000000001 ans = 9.999999999999999e-025 10e-24 >> 0.0000000000000000000000001 ans = 1.000000000000000e-025 10e-25 >> 0.00000000000000000000000001 ans = 1.000000000000000e-026 10e-26 >> 0.000000000000000000000000001 ans = 1.000000000000000e-027 10e-27 >> 0.0000000000000000000000000001 ans = 1.000000000000000e-028 10e-28 >> 0.00000000000000000000000000001 ans = 9.999999999999999e-030 10e-29 >> 0.000000000000000000000000000001 ans = 1.000000000000000e-030 10e-30 >> 0.0000000000000000000000000000001 ans = 1.000000000000000e-031 10e-31 >> 0.00000000000000000000000000000001 ans = 1.000000000000000e-032 10e-32 >> 0.000000000000000000000000000000001 ans = 1.000000000000000e-033 10e-33 >> 0.0000000000000000000000000000000001 ans = 9.999999999999999e-035 10e-34 (34-29=5) >> 0.0000000000000000000000000000000000001 ans = 1.000000000000000e-037 10e-37 >> 0.00000000000000000000000000000000000001 ans = 1.000000000000000e-038 10e-38 >> 0.000000000000000000000000000000000000001 ans = 9.999999999999999e-040 10e-39 (39-34=5) 。。。。。。 预计每减小到原来的10-5,就会出现一次这种现象。 |
» 猜你喜欢
280求调剂
已经有3人回复
网上报道青年教师午睡中猝死、熬夜猝死的越来越多,主要哪些原因引起的?
已经有8人回复
面上可以超过30页吧?
已经有11人回复
版面费该交吗
已经有15人回复
体制内长辈说体制内绝大部分一辈子在底层,如同你们一样大部分普通教师忙且收入低
已经有18人回复
为什么中国大学工科教授们水了那么多所谓的顶会顶刊,但还是做不出宇树机器人?
已经有10人回复
什么是人一生最重要的?
已经有4人回复

2楼2011-06-02 21:59:58
3楼2011-06-02 23:07:57
4楼2011-06-03 13:48:30
xiazhiqing
木虫 (正式写手)
- 应助: 0 (幼儿园)
- 金币: 4503.2
- 红花: 3
- 帖子: 493
- 在线: 130小时
- 虫号: 876732
- 注册: 2009-10-18
- 性别: GG
- 专业: 控制理论与方法

5楼2011-06-17 19:21:35













)
回复此楼
谢谢回帖哦~