| 查看: 675 | 回复: 1 | |||
[交流]
计算精度问题 已有1人参与
|
|
请教一下，我用Fortran编了个解方程的程序，所有实数都用的双精度，测精度的时候发现，精度下降到1.0e-7就降不下去了。这个是怎么回事，有啥方法提高精度不？ 发自小木虫Android客户端 |
回复此楼» 猜你喜欢
材料考研调剂
已经有3人回复
-
材料调剂
已经有12人回复
-
英一数一408，总分284，二战真诚求调剂
已经有14人回复
-
085410 一志愿211 22408分数359求调剂
已经有4人回复
-
271求调剂
已经有19人回复
-
385分 生物学（071000）求调剂
已经有3人回复
-
一志愿安徽大学计算机科学与技术学硕，331分求调剂
已经有3人回复
-
318求调剂，计算材料方向
已经有8人回复
-
291求调剂
已经有25人回复
-
一志愿北京科技大学085601材料工程英一数二初试总分335求调剂
已经有6人回复
2楼2018-05-29 00:48:52
