应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 计算模拟区 » 计算模拟 » Fortran计算10的十次方以上运算结果不正确，是精度问题吗？
51/1返回列表
查看: 4690  |  回复: 14
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看
当前只显示满足指定条件的回帖，点击这里查看本话题的所有回帖

hshx9291

银虫 (初入文坛)

[求助] Fortran计算10的十次方以上运算结果不正确，是精度问题吗？ 已有1人参与

最近用Fortran进行模拟计算，计算结果显示错误，往回找某一参数的计算结果发现为0.0000000E+000，后来检查式子发现有个10的12次方计算。然后我就另建新项目计算了10的几次方计算，发现10的9次方计算结果是1000000000正常，但是10的十次方计算结果就成了1410065408,11次方为1215752192,12次方就成了-727379968。一开始怀疑是精度问题，但是设置成精度为real（8），real（16）结果计算都是这样。求问大神是为什么？
回复此楼

» 猜你喜欢

» 本主题相关价值贴推荐，对您同样有帮助:
1楼 2016-01-24 10:20:01
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hshx9291

银虫 (初入文坛)
送红花一朵
引用回帖:
6楼: Originally posted by virtualzx at 2016-01-25 00:35:15
你这个变量是整数，不是实型。八字节整数定义为integer*8
如果不想改代码可以用flag让编译器自动把所有整形视为长整数，windows没用过， 但猜测应该是/i8
...

谢谢您，按您的方法的确可以让输出结果为正常。但是我程序计算过程中的式子怎么调才可以为正常的？程序内部有很多式子都是要计算10的正负12次方以上。例如其中一句Dli(1)=(2.609*(10**-12)*Tda)/muli(2)  ， 怎样设定才能让计算结果正确呢？
赞一下 回复此楼
9楼2016-01-25 09:36:00
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 15 个回答

suyi20466975

至尊木虫 (正式写手)

巾帼将军

【答案】应助回帖

感谢参与，应助指数 +1
是因为整数，fortran对整数的存储是有极限的，你把做计算的变量定义成双精度实型，最后它会以科学计数法的形式给出结果。

发自小木虫IOS客户端
赞一下 回复此楼
Everythingwillbechanged!
2楼2016-01-24 17:18:53
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

virtualzx

木虫 (著名写手)
你用的四字节整数，就只能到这个数量级。如果需要更多，可以告诉编译器使用八字节整数(ifort 的flag 是-i8)，可以到二十位数。再多一般就没有使用精确数值的必要了，可以用浮点数近似代替

发自小木虫IOS客户端
赞一下 回复此楼
3楼2016-01-24 17:56:09
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hshx9291

银虫 (初入文坛)
引用回帖:
2楼: Originally posted by suyi20466975 at 2016-01-24 17:18:53
是因为整数，fortran对整数的存储是有极限的，你把做计算的变量定义成双精度实型，最后它会以科学计数法的形式给出结果。

请问双精度实型怎么定义？real(8)不已经是双精度了吗？

发自小木虫Android客户端
赞一下 回复此楼
4楼2016-01-24 20:57:00
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 15 个回答
普通表情 龙 兔 虎 猫
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 调剂 +3 13853210211 2026-03-24 3/150 2026-03-24 18:16 by jhhcooi
[考研] 306求0703调剂一志愿华中师范 +10 纸鱼ly 2026-03-21 11/550 2026-03-24 17:22 by qingfeng258
[考研] 材料292调剂 +8 橘颂思美人 2026-03-23 8/400 2026-03-24 16:33 by laoshidan
[考研] 一志愿吉大化学322求调剂 +4 17501029541 2026-03-23 6/300 2026-03-24 10:21 by 戴围脖的小蚊子
[考研] 一志愿国科过程所081700，274求调剂 +3 三水研0水立方 2026-03-23 3/150 2026-03-23 23:11 by MajorWen
[考研] 考研化学308分求调剂 +7 你好明天你好 2026-03-23 8/400 2026-03-23 18:39 by macy2011
[考研] 一志愿上海交大生物与医药专硕324分，求调剂 +5 jiajunX 2026-03-22 5/250 2026-03-23 18:07 by YMU施老师
[考研] 上海电力大学材料防护与新材料重点实验室招收调剂研究生（材料、化学、电化学，环境） +3 我爱学电池 2026-03-23 3/150 2026-03-23 17:16 by AZMK
[考研] 0854电子信息求调剂 324 +3 Promise-jyl 2026-03-23 3/150 2026-03-23 13:43 by wangkm
[考研] 306求调剂 +9 chuanzhu川烛 2026-03-18 9/450 2026-03-23 13:17 by luoyongfeng
[考研] 263求调剂 +6 yqdszhdap－ 2026-03-22 9/450 2026-03-23 12:57 by yqdszhdap－
[考研] 352求调剂 +3 大米饭！ 2026-03-22 3/150 2026-03-22 23:28 by king123！
[考研] 285求调剂 +6 ytter 2026-03-22 6/300 2026-03-22 12:09 by 星空星月
[考研] 354求调剂 +7 Tyoumou 2026-03-18 10/500 2026-03-22 11:11 by 人来盛
[考研] 265求调剂 +12 梁梁校校 2026-03-19 14/700 2026-03-21 13:38 by lature00
[考研] 330求调剂0854 +3 assdll 2026-03-21 3/150 2026-03-21 13:01 by 搏击518
[考研] 一志愿 西北大学 ，070300化学学硕，总分287，双非一本，求调剂。 +4 晨昏线与星海 2026-03-19 4/200 2026-03-20 22:15 by JourneyLucky
[考研] 一志愿西南交通 专硕 材料355 本科双非 求调剂 +5 西南交通专材355 2026-03-19 5/250 2026-03-20 21:10 by JourneyLucky
[考研] 一志愿吉林大学材料学硕321求调剂 +11 Ymlll 2026-03-18 15/750 2026-03-20 19:40 by 丁丁*
[考研] 本科郑州大学物理学院，一志愿华科070200学硕，346求调剂 +4 我不是一根葱 2026-03-18 4/200 2026-03-19 09:11 by 浮云166
信息提示
关闭
请填处理意见
关闭