| 查看: 621 | 回复: 1 | |||
[交流]
计算精度问题已有1人参与
|
|
请教一下，我用Fortran编了个解方程的程序，所有实数都用的双精度，测精度的时候发现，精度下降到1.0e-7就降不下去了。这个是怎么回事，有啥方法提高精度不？ 发自小木虫Android客户端 |
回复此楼» 猜你喜欢
天津工业大学郑柳春团队欢迎化学化工、高分子化学或有机合成方向的博士生和硕士生加入
已经有4人回复
-
康复大学泰山学者周祺惠团队招收博士研究生
已经有6人回复
-
AI论文写作工具：是科研加速器还是学术作弊器？
已经有3人回复
-
孩子确诊有中度注意力缺陷
已经有6人回复
-
2026博士申请-功能高分子，水凝胶方向
已经有6人回复
-
论文投稿，期刊推荐
已经有4人回复
-
硕士和导师闹得不愉快
已经有13人回复
-
请问2026国家基金面上项目会启动申2停1吗
已经有5人回复
-
同一篇文章，用不同账号投稿对编辑决定是否送审有没有影响？
已经有3人回复
-
RSC ADV状态问题
已经有4人回复
2楼2018-05-29 00:48:52