| 查看: 716 | 回复: 1 | |||
[交流]
计算精度问题 已有1人参与
|
|
请教一下，我用Fortran编了个解方程的程序，所有实数都用的双精度，测精度的时候发现，精度下降到1.0e-7就降不下去了。这个是怎么回事，有啥方法提高精度不？ 发自小木虫Android客户端 |
回复此楼» 猜你喜欢
欢迎发来filecode的Mz6后的代码验证其规律
已经有69人回复
-
有时候，自然基金真的不能太认真 （我的申报经验）
已经有11人回复
-
时间戳又变了8-15
已经有23人回复
-
filecode=后面第一个是大写字母
已经有7人回复
-
filecode
已经有12人回复
-
小木虫上这么多卖论文的，真有人买论文么？感觉没必要啊
已经有13人回复
-
哪位老哥知道今年的国自然具体哪一天放榜？
已经有7人回复
-
关于Filecode分析方法
已经有13人回复
-
各位道友，我要去昆明玩几天，回来见。
已经有8人回复
-
咱们一起用铁证分析2026国家社科基金中标与否
已经有22人回复
2楼2018-05-29 00:48:52
