24小时热门版块排行榜    

Znn3bq.jpeg
查看: 4806  |  回复: 14

hshx9291

银虫 (初入文坛)

[求助] Fortran计算10的十次方以上运算结果不正确,是精度问题吗? 已有1人参与

最近用Fortran进行模拟计算,计算结果显示错误,往回找某一参数的计算结果发现为0.0000000E+000,后来检查式子发现有个10的12次方计算。然后我就另建新项目计算了10的几次方计算,发现10的9次方计算结果是1000000000正常,但是10的十次方计算结果就成了1410065408,11次方为1215752192,12次方就成了-727379968。一开始怀疑是精度问题,但是设置成精度为real(8),real(16)结果计算都是这样。求问大神是为什么?
回复此楼

» 猜你喜欢

» 本主题相关价值贴推荐,对您同样有帮助:

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

suyi20466975

至尊木虫 (正式写手)

巾帼将军

【答案】应助回帖

感谢参与,应助指数 +1
是因为整数,fortran对整数的存储是有极限的,你把做计算的变量定义成双精度实型,最后它会以科学计数法的形式给出结果。

发自小木虫IOS客户端
Everythingwillbechanged!
2楼2016-01-24 17:18:53
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

virtualzx

木虫 (著名写手)

你用的四字节整数,就只能到这个数量级。如果需要更多,可以告诉编译器使用八字节整数(ifort 的flag 是-i8),可以到二十位数。再多一般就没有使用精确数值的必要了,可以用浮点数近似代替

发自小木虫IOS客户端
3楼2016-01-24 17:56:09
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hshx9291

银虫 (初入文坛)

引用回帖:
2楼: Originally posted by suyi20466975 at 2016-01-24 17:18:53
是因为整数,fortran对整数的存储是有极限的,你把做计算的变量定义成双精度实型,最后它会以科学计数法的形式给出结果。

请问双精度实型怎么定义?real(8)不已经是双精度了吗?

发自小木虫Android客户端
4楼2016-01-24 20:57:00
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hshx9291

银虫 (初入文坛)

引用回帖:
3楼: Originally posted by virtualzx at 2016-01-24 17:56:09
你用的四字节整数,就只能到这个数量级。如果需要更多,可以告诉编译器使用八字节整数(ifort 的flag 是-i8),可以到二十位数。再多一般就没有使用精确数值的必要了,可以用浮点数近似代替
...

请问在Windows下的Intel Fortran怎么设定?

发自小木虫Android客户端
5楼2016-01-24 20:58:49
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

virtualzx

木虫 (著名写手)

【答案】应助回帖

感谢参与,应助指数 +1
引用回帖:
4楼: Originally posted by hshx9291 at 2016-01-24 20:57:00
请问双精度实型怎么定义?real(8)不已经是双精度了吗?
...

你这个变量是整数,不是实型。八字节整数定义为integer*8

如果不想改代码可以用flag让编译器自动把所有整形视为长整数,windows没用过, 但猜测应该是/i8

发自小木虫IOS客户端

» 本帖已获得的红花(最新10朵)

6楼2016-01-25 00:35:15
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

suyi20466975

至尊木虫 (正式写手)

巾帼将军

【答案】应助回帖

real *8双精度实型

发自小木虫IOS客户端
Everythingwillbechanged!
7楼2016-01-25 08:54:40
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hshx9291

银虫 (初入文坛)

引用回帖:
7楼: Originally posted by suyi20466975 at 2016-01-25 08:54:40
real *8双精度实型

您好,我编的小程序如下:
program test
    real*8 Dli
    Dli=10**12
    write(*,*)Dli
    end
   
输出结果为-727379968.000000,仍不科学啊,有什么错误吗?
另外我原程序需要计算的是Dli(1)=(2.609*(10**-12)*Tda)/muli(2),其中Tda=750,muli(2)=118.75,计算结果显示Dli(1)=0.0000000000E+000.
8楼2016-01-25 09:32:38
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hshx9291

银虫 (初入文坛)

送红花一朵
引用回帖:
6楼: Originally posted by virtualzx at 2016-01-25 00:35:15
你这个变量是整数,不是实型。八字节整数定义为integer*8
如果不想改代码可以用flag让编译器自动把所有整形视为长整数,windows没用过, 但猜测应该是/i8
...

谢谢您,按您的方法的确可以让输出结果为正常。但是我程序计算过程中的式子怎么调才可以为正常的?程序内部有很多式子都是要计算10的正负12次方以上。例如其中一句Dli(1)=(2.609*(10**-12)*Tda)/muli(2)  , 怎样设定才能让计算结果正确呢?
9楼2016-01-25 09:36:00
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

virtualzx

木虫 (著名写手)

看了你的程序,问题在于

发自小木虫IOS客户端
10楼2016-01-25 11:05:21
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 hshx9291 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[教师之家] 上海大学实验技术岗位非升即走 +3 嘻嘻哈哈乐呵呵 2026-05-15 3/150 2026-05-15 15:40 by 187385hgh
[论文投稿] 有带发论文的吗 +4 山楂之术 2026-05-09 4/200 2026-05-15 15:40 by 妹子不好惹
[文学芳草园] 风把牡丹吹跑了 +5 myrtle 2026-05-12 9/450 2026-05-15 15:27 by myrtle
[基金申请] 青C资助名额大幅增加! +11 西葫芦炒鸡蛋 2026-05-13 15/750 2026-05-15 14:36 by ambravo
[公派出国] 售SCI一区T0P文章,我:8.O.5.5.1.O.5.4,科目齐全,可+急 +3 l7k6xnh0yc 2026-05-14 3/150 2026-05-15 12:03 by onwj4wpxp2
[基金申请] 精华III评审感受-评审感受-评审感受 +14 ferrarichen 2026-05-11 18/900 2026-05-15 11:12 by cmhchen
[基金申请] 这年头没有找到涵评专家,还有中面上的可能吗 +9 dd921ww 2026-05-12 10/500 2026-05-15 10:41 by muyiliuhui
[考博] 售SCI一区T0P文章,我:8.O.5.5.1.O.5.4,科目齐全,可+急 +3 l7k6xnh0yc 2026-05-14 3/150 2026-05-15 09:23 by onwj4wpxp2
[考研] 售SCI一区T0P文章,我:8.O.5.5.1.O.5.4,科目齐全,可+急 +3 cjf4bx70cj 2026-05-14 4/200 2026-05-15 09:03 by gagyerk94e
[教师之家] 教学课件你会给同学吗 +8 硕士研究生吗 2026-05-13 8/400 2026-05-14 22:23 by 常规沥青
[考博] 26应届毕业生考博求助 +3 wo一定上岸 2026-05-13 3/150 2026-05-14 21:47 by 明海天涯
[基金申请] 重磅!青年科学基金项目(C类)资助增幅预计超过50% +5 水和泥不是水泥 2026-05-13 7/350 2026-05-14 20:57 by 水和泥不是水泥
[高分子] 本人最近太闲了,谁有问题可以提,每天会统一回复 +8 一切都是空工 2026-05-12 19/950 2026-05-14 20:03 by 一切都是空工
[考博] 材料类只有一篇综述能申博么 +4 乐逍遥谷 2026-05-13 4/200 2026-05-14 12:05 by zhyzzh
[基金申请] 请问大佬b0816评完了吗 +3 市民华南虎 2026-05-12 7/350 2026-05-14 07:41 by 市民华南虎
[硕博家园] 导师各种操作恶心咋办 +11 苍白的小青天 2026-05-09 13/650 2026-05-13 17:11 by 六两废铜
[论文投稿] 求助大佬sci投稿哪个好中 +3 江沅188 2026-05-12 4/200 2026-05-13 14:35 by 江沅188
[考博] 西南大学考核制博士 +3 lijunjie84 2026-05-11 6/300 2026-05-12 18:09 by lijunjie84
[文学芳草园] 窗边初夏的小雨 +7 阿美_Lml888 2026-05-09 10/500 2026-05-12 15:27 by 阿美_Lml888
[考博] 现在不知道怎么办,感觉很痛苦 +4 qweww 2026-05-11 5/250 2026-05-11 20:23 by Oversize
信息提示
请填处理意见