| 查看: 752 | 回复: 1 | |||
[交流]
计算精度问题 已有1人参与
|
|
请教一下,我用Fortran编了个解方程的程序,所有实数都用的双精度,测精度的时候发现,精度下降到1.0e-7就降不下去了。这个是怎么回事,有啥方法提高精度不? 发自小木虫Android客户端 |
» 猜你喜欢
申博
已经有7人回复
征友后感触
已经有9人回复
食品与机械 编辑C处理稿子时间
已经有4人回复
27年药学 考博申请
已经有6人回复
注意啦!用基金购买打印纸、硒鼓、优盘、移动硬盘、个人计算机属于违规了
已经有4人回复
为了不被淘汰,必须要开始第三次奋斗了
已经有12人回复
IVD领域内综述投稿推荐
已经有5人回复
2楼2018-05-29 00:48:52










回复此楼