| 查看: 724 | 回复: 1 | |||
[交流]
计算精度问题 已有1人参与
|
|
请教一下，我用Fortran编了个解方程的程序，所有实数都用的双精度，测精度的时候发现，精度下降到1.0e-7就降不下去了。这个是怎么回事，有啥方法提高精度不？ 发自小木虫Android客户端 |
回复此楼» 猜你喜欢
广西大学-广州大学招聘博士后 欢迎广大优秀人才！！！
已经有9人回复
-
闲聊
已经有3人回复
-
江苏省自然基金 什么时候出结果
已经有4人回复
-
如何查询2026年获批项目名称？
已经有3人回复
-
两块石头
已经有10人回复
-
科研人应该花精力去思考如何解决问题，而不是去凝练问题
已经有19人回复
-
售SCI一区T0P文章，我:8O.55.1.O.54,科目全,可伽急
已经有15人回复
-
面上没中，邀请各位路过的虫友分析一下分数
已经有13人回复
-
初秋的晨风
已经有6人回复
-
Ei源刊怎么投
已经有4人回复
2楼2018-05-29 00:48:52