| 查看: 706 | 回复: 1 | |||
[交流]
计算精度问题 已有1人参与
|
|
请教一下，我用Fortran编了个解方程的程序，所有实数都用的双精度，测精度的时候发现，精度下降到1.0e-7就降不下去了。这个是怎么回事，有啥方法提高精度不？ 发自小木虫Android客户端 |
回复此楼» 猜你喜欢
时间戳他又来了
已经有6人回复
-
小木虫看见有人已经知道结果了
已经有8人回复
-
J-J-W不为人知的一面
已经有11人回复
-
自然基金已经彻底沦为学术资源的交换工具
已经有36人回复
-
全人类对于AI的整体认知，尚且停留在幼儿园启蒙阶段
已经有14人回复
-
没消息就是被刷了呗
已经有10人回复
-
周末思考-婚姻长久底色
已经有12人回复
-
27考博求助
已经有4人回复
-
深圳大学材料学院“智能分子材料团队”招聘博士后
已经有4人回复
2楼2018-05-29 00:48:52