| 查看: 4806 | 回复: 14 | ||
[求助]
Fortran计算10的十次方以上运算结果不正确,是精度问题吗? 已有1人参与
|
| 最近用Fortran进行模拟计算,计算结果显示错误,往回找某一参数的计算结果发现为0.0000000E+000,后来检查式子发现有个10的12次方计算。然后我就另建新项目计算了10的几次方计算,发现10的9次方计算结果是1000000000正常,但是10的十次方计算结果就成了1410065408,11次方为1215752192,12次方就成了-727379968。一开始怀疑是精度问题,但是设置成精度为real(8),real(16)结果计算都是这样。求问大神是为什么? |
» 猜你喜欢
【修正版】单环用磁约束低速电子实验方案(简化版)
已经有0人回复
桂林理工大学物理学专业招收调剂,还有三个名额!!!
已经有22人回复
物理学I论文润色/翻译怎么收费?
已经有62人回复
考博自荐
已经有4人回复
山东大学第二批博士研究生招生
已经有0人回复
中国科学院东莞材料科学与技术研究所-2026年博士招生-吴昊研究员-磁学与自旋电子学
已经有0人回复
《电磁学》教材推荐
已经有1人回复
【急招】合肥工大核聚变材料计算方向2026级工程博士生
已经有4人回复
大豆异黄酮分离
已经有0人回复
湖南大学材料学院急招2026年博士生,临时增加一名博士联培指标
已经有10人回复
天津理工大学晶体材料全国重点实验室刘红军教授课题组招收博士生1-2名
已经有0人回复
» 本主题相关价值贴推荐,对您同样有帮助:
求助大神!过年都还在苦逼编程的计算狗呀!Fortran计算里头文件里定义全局变量出错
已经有3人回复
如何用fortran计算概率密度函数
已经有6人回复
最近碰到的一个Intel visual Fortran 计算精度的问题.大家的机器上是否也是这样?
已经有8人回复
fortran计算出来的数据,导入origin时候会出现下面情况怎样解决
已经有6人回复
求fortran计算方法指导 14元非线性方程组 之前8元的使用bfs法能解14元解不了呀求指导
已经有4人回复
fortran计算多未知数非线性方程出错 较少未知数时程序能通过
已经有2人回复
fortran求助
已经有4人回复
如何用Fortran 计算三维曲面的数据
已经有3人回复
Fortran中计算多重积分的VEGAS程序变量
已经有2人回复
fortran中计算线性积分
已经有7人回复
Fortran中高效计算矩阵的秩
已经有4人回复
fortran IDE 4 windows&Linux+Fortran95,2003科学计算与工程+光盘
已经有1人回复
超级计算机运算fortran的问题
已经有17人回复
《计算物理》实验报告(fortran语言)
已经有47人回复
配置一台1万左右的计算机跑Fortran程序以及高斯的计算
已经有8人回复
求助计算机高人,编写个Fortran程序
已经有13人回复
【求助】Fortran程序计算
已经有1人回复
【资源】计算C-G系数的fortran源程序
已经有1人回复
【求助】懂Fortran并行计算的高手请进
已经有7人回复
【求助】求助个Fortran计算,应该不难,半天搞不定,请高手帮忙
已经有11人回复
suyi20466975
至尊木虫 (正式写手)
巾帼将军
- 应助: 6 (幼儿园)
- 金币: 10436.8
- 散金: 47
- 红花: 48
- 帖子: 703
- 在线: 129.5小时
- 虫号: 738293
- 注册: 2009-04-02
- 性别: MM
- 专业: 凝聚态物性 II :电子结构

2楼2016-01-24 17:18:53
virtualzx
木虫 (著名写手)
- 应助: 263 (大学生)
- 金币: 7161.3
- 红花: 54
- 帖子: 1605
- 在线: 317.6小时
- 虫号: 2069080
- 注册: 2012-10-18
- 性别: GG
- 专业: 理论和计算化学
|
你用的四字节整数,就只能到这个数量级。如果需要更多,可以告诉编译器使用八字节整数(ifort 的flag 是-i8),可以到二十位数。再多一般就没有使用精确数值的必要了,可以用浮点数近似代替 发自小木虫IOS客户端 |
3楼2016-01-24 17:56:09
4楼2016-01-24 20:57:00
5楼2016-01-24 20:58:49
virtualzx
木虫 (著名写手)
- 应助: 263 (大学生)
- 金币: 7161.3
- 红花: 54
- 帖子: 1605
- 在线: 317.6小时
- 虫号: 2069080
- 注册: 2012-10-18
- 性别: GG
- 专业: 理论和计算化学
【答案】应助回帖
感谢参与,应助指数 +1
|
你这个变量是整数,不是实型。八字节整数定义为integer*8 如果不想改代码可以用flag让编译器自动把所有整形视为长整数,windows没用过, 但猜测应该是/i8 发自小木虫IOS客户端 |
» 本帖已获得的红花(最新10朵)
6楼2016-01-25 00:35:15
suyi20466975
至尊木虫 (正式写手)
巾帼将军
- 应助: 6 (幼儿园)
- 金币: 10436.8
- 散金: 47
- 红花: 48
- 帖子: 703
- 在线: 129.5小时
- 虫号: 738293
- 注册: 2009-04-02
- 性别: MM
- 专业: 凝聚态物性 II :电子结构

7楼2016-01-25 08:54:40
8楼2016-01-25 09:32:38
9楼2016-01-25 09:36:00
virtualzx
木虫 (著名写手)
- 应助: 263 (大学生)
- 金币: 7161.3
- 红花: 54
- 帖子: 1605
- 在线: 317.6小时
- 虫号: 2069080
- 注册: 2012-10-18
- 性别: GG
- 专业: 理论和计算化学
10楼2016-01-25 11:05:21












回复此楼
hshx9291
精华III: