24小时热门版块排行榜

返回列表

当前只显示满足指定条件的回帖，点击这里查看本话题的所有回帖

hshx9291

银虫 (初入文坛)

应助: 0 (幼儿园)
金币: 264.5
帖子: 10
在线: 5.3小时
虫号: 4188722
注册: 2015-11-01
性别: GG
专业: 燃烧学

[求助] Fortran计算10的十次方以上运算结果不正确，是精度问题吗？已有1人参与

最近用Fortran进行模拟计算，计算结果显示错误，往回找某一参数的计算结果发现为0.0000000E+000，后来检查式子发现有个10的12次方计算。然后我就另建新项目计算了10的几次方计算，发现10的9次方计算结果是1000000000正常，但是10的十次方计算结果就成了1410065408,11次方为1215752192,12次方就成了-727379968。一开始怀疑是精度问题，但是设置成精度为real（8），real（16）结果计算都是这样。求问大神是为什么？

回复此楼

» 猜你喜欢

推荐一款可以AI辅助写作的Latex编辑器SmartLatexEditor，超级好用，AI润色，全免费已经有20人回复
【EI|Scopus 双检索】第六届智能机器人系统国际会议（ISoIRS 2026）已经有1人回复
物理学I论文润色/翻译怎么收费? 已经有224人回复
2026年第四届电动车与车辆工程国际会议（CEVVE 2026）已经有0人回复
德国亥姆霍兹Hereon中心招收两位医用镁合金腐蚀与LPSO相变方向2026公派博士生已经有0人回复

1楼 2016-01-24 10:20:01

已阅回复此楼关注TA 给TA发消息送TA红花 TA的回帖

virtualzx

木虫 (著名写手)

应助: 263 (大学生)
金币: 7161.3
红花: 54
帖子: 1605
在线: 317.6小时
虫号: 2069080
注册: 2012-10-18
性别: GG
专业: 理论和计算化学

引用回帖:

8楼: Originally posted by hshx9291 at 2016-01-25 09:32:38
您好，我编的小程序如下：
program test
real*8 Dli
Dli=10**12
write(*,*)Dli
end

输出结果为-727379968.000000，仍不科学啊，有什么错误吗？
另外我原程序需要计算的是Dli(1)=(2.6 ...

看了你的程序，问题在于每一个常数都有类型的，10**12这里10是整型（缺省整数是integer*4)，这个类别只能达到10位。

取决于你需要的精度，如果你的程序需要完全精确的数值时才需要整数，整数没有任何误差，但能表示的大小范围很有限。你可以用10_8来指定10是8字节整数。

如果你不需要精确数值，而可以接受一定误差，那么就可以用浮点数。浮点数可以直接用科学计数法表示，比如10^15就是1D15

发自小木虫IOS客户端