| 查看: 666 | 回复: 1 | |||
[交流]
计算精度问题 已有1人参与
|
|
请教一下，我用Fortran编了个解方程的程序，所有实数都用的双精度，测精度的时候发现，精度下降到1.0e-7就降不下去了。这个是怎么回事，有啥方法提高精度不？ 发自小木虫Android客户端 |
回复此楼» 猜你喜欢
售SCI一区文章，我:8 O5 51O 54,科目齐全,可+急
已经有5人回复
-
售SCI一区文章，我:8 O5 51O 54,科目齐全,可+急
已经有4人回复
-
售SCI一区文章，我:8 O5 51O 54,科目齐全,可+急
已经有5人回复
-
售SCI一区文章，我:8 O5 51O 54,科目齐全,可+急
已经有5人回复
-
售SCI一区文章，我:8 O5 51O 54,科目齐全,可+急
已经有4人回复
-
售SCI一区文章，我:8 O5 51O 54,科目齐全,可+急
已经有6人回复
-
售SCI一区文章，我:8 O5 51O 54,科目齐全,可+急
已经有6人回复
-
售SCI一区文章，我:8 O5 51O 54,科目齐全,可+急
已经有11人回复
-
售SCI一区文章，我:8 O5 51O 54,科目齐全,可+急
已经有9人回复
-
球磨粉体时遇到了大的问题，请指教！
已经有14人回复
2楼2018-05-29 00:48:52