24小时热门版块排行榜

返回列表

当前只显示满足指定条件的回帖，点击这里查看本话题的所有回帖

hshx9291

银虫 (初入文坛)

应助: 0 (幼儿园)
金币: 264.5
帖子: 10
在线: 5.3小时
虫号: 4188722
注册: 2015-11-01
性别: GG
专业: 燃烧学

[求助] Fortran计算10的十次方以上运算结果不正确，是精度问题吗？已有1人参与

最近用Fortran进行模拟计算，计算结果显示错误，往回找某一参数的计算结果发现为0.0000000E+000，后来检查式子发现有个10的12次方计算。然后我就另建新项目计算了10的几次方计算，发现10的9次方计算结果是1000000000正常，但是10的十次方计算结果就成了1410065408,11次方为1215752192,12次方就成了-727379968。一开始怀疑是精度问题，但是设置成精度为real（8），real（16）结果计算都是这样。求问大神是为什么？

回复此楼

» 猜你喜欢

反铁磁体中的磁性切换：两种不同的机制已成功可视化已经有0人回复
求标准粉末衍射卡号 ICDD 01-076-1802 已经有0人回复
物理学I论文润色/翻译怎么收费? 已经有221人回复
新西兰Robinson研究所招收全奖PhD 已经有0人回复
石墨烯转移--二氧化硅衬底石墨烯已经有0人回复
笼目材料中量子自旋液体基态的证据已经有0人回复
数学教学论硕士可以读数学物理博士吗？已经有0人回复
德国亥姆霍兹Hereon中心汉堡分部招镁合金腐蚀裂变SCC课题方向2026公派博士生已经有4人回复
澳门大学应用物理及材料工程研究院潘晖教授课题组诚招博士后已经有11人回复

1楼 2016-01-24 10:20:01

已阅回复此楼关注TA 给TA发消息送TA红花 TA的回帖

hshx9291

银虫 (初入文坛)

应助: 0 (幼儿园)
金币: 264.5
帖子: 10
在线: 5.3小时
虫号: 4188722
注册: 2015-11-01
性别: GG
专业: 燃烧学

引用回帖:

11楼: Originally posted by virtualzx at 2016-01-25 11:15:31
看了你的程序，问题在于每一个常数都有类型的，10**12这里10是整型（缺省整数是integer*4)，这个类别只能达到10位。
取决于你需要的精度，如果你的程序需要完全精确的数值时才需要整数，整数没有任何误差，但能表示 ...

谢谢您的耐心解答，我原程序有大量的计算式，需要精确数值。如果要得到精确结果，每个常数后面都要写加上_8吗？例如程序中有一段计算为：
rholi(1)=410.70110+1.13071*(722-Tda)-9.5509*10**-4*(722-Tda)**2+6.7842*10**-7*(722-Tda)**3
      cpli(1)=0.00692*Tda**2-0.532*Tda+1720.3
      muli(1)=175.1*10**-3*exp(-10.31+1859/Tda)
      muli(2)=127.58*10**-3*exp(-9.47+1463/Tda)
      kli(1)=(0.4607*(1-0.00138*Tda)**0.38)/(Tda**(1/6))
      Dli(1)=(2.609*(10**-12)*Tda)/muli(2)
怎样才能让计算结果显示精确呢？我只在Dli(1)的赋值语句中加上_8显示结果仍为错误的。有没有全局设定什么的？谢谢您。