| 查看: 690 | 回复: 1 | |||
[交流]
计算精度问题 已有1人参与
|
|
请教一下,我用Fortran编了个解方程的程序,所有实数都用的双精度,测精度的时候发现,精度下降到1.0e-7就降不下去了。这个是怎么回事,有啥方法提高精度不? 发自小木虫Android客户端 |
» 猜你喜欢
重磅!青年科学基金项目(C类)资助增幅预计超过50%
已经有10人回复
今年审到国自然15份,谈谈感受
已经有10人回复
我在等一个没有答案的答案
已经有3人回复
半夜喝咖啡
已经有5人回复
面上本子正文33页,违规吗?会被低分嘛?
已经有6人回复
售SCI一区T0P文章,我:8.O.5.5.1.O.5.4,科目齐全,可+急
已经有4人回复
售SCI一区T0P文章,我:8.O.5.5.1.O.5.4,科目齐全,可+急
已经有7人回复
售SCI一区T0P文章,我:8.O.5.5.1.O.5.4,科目齐全,可+急
已经有5人回复
售SCI一区T0P文章,我:8.O.5.5.1.O.5.4,科目齐全,可+急
已经有6人回复
售SCI一区T0P文章,我:8.O.5.5.1.O.5.4,科目齐全,可+急
已经有7人回复
2楼2018-05-29 00:48:52












回复此楼
精华III: