| 查看: 4966 | 回复: 14 | |||
[求助]
Fortran计算10的十次方以上运算结果不正确，是精度问题吗？ 已有1人参与
|
| 最近用Fortran进行模拟计算，计算结果显示错误，往回找某一参数的计算结果发现为0.0000000E+000，后来检查式子发现有个10的12次方计算。然后我就另建新项目计算了10的几次方计算，发现10的9次方计算结果是1000000000正常，但是10的十次方计算结果就成了1410065408,11次方为1215752192,12次方就成了-727379968。一开始怀疑是精度问题，但是设置成精度为real（8），real（16）结果计算都是这样。求问大神是为什么？ |
回复此楼» 猜你喜欢
如何从铁电相到顺电相。
已经有1人回复
-
各位大佬，求一份最新Wien2k版本作为学习用途
已经有0人回复
-
物理学I论文润色/翻译怎么收费?
已经有210人回复
-
南科大活性流体和软物质课题组诚招2027级博士、硕士研究生和博后
已经有42人回复
-
瑞典林雪平大学博士后招聘｜PEC Water Splitting 方向
已经有24人回复
-
PRB投稿，Acknowledgment sent to author状态十天了
已经有3人回复
-
PVA溶解
已经有2人回复
-
基金申请
已经有44人回复
-
CSC与新西兰维多利亚大学PhD奖学金项目
已经有0人回复
-
新西兰Robinson研究所 招聘CSC公派访问人员
已经有0人回复
-
帮我的英语口语老师找学生
已经有0人回复
» 本主题相关价值贴推荐，对您同样有帮助:
- 求助大神！过年都还在苦逼编程的计算狗呀！Fortran计算里头文件里定义全局变量出错
已经有3人回复
- 如何用fortran计算概率密度函数
已经有6人回复
- 最近碰到的一个Intel visual Fortran 计算精度的问题.大家的机器上是否也是这样?
已经有8人回复
- fortran计算出来的数据，导入origin时候会出现下面情况怎样解决
已经有6人回复
- 求fortran计算方法指导 14元非线性方程组 之前8元的使用bfs法能解14元解不了呀求指导
已经有4人回复
- fortran计算多未知数非线性方程出错 较少未知数时程序能通过
已经有2人回复
- fortran求助
已经有4人回复
- 如何用Fortran 计算三维曲面的数据
已经有3人回复
- Fortran中计算多重积分的VEGAS程序变量
已经有2人回复
- fortran中计算线性积分
已经有7人回复
- Fortran中高效计算矩阵的秩
已经有4人回复
- fortran IDE 4 windows&Linux+Fortran95,2003科学计算与工程+光盘
已经有1人回复
- 超级计算机运算fortran的问题
已经有17人回复
- 《计算物理》实验报告（fortran语言）
已经有47人回复
- 配置一台1万左右的计算机跑Fortran程序以及高斯的计算
已经有8人回复
- 求助计算机高人，编写个Fortran程序
已经有13人回复
- 【求助】Fortran程序计算
已经有1人回复
- 【资源】计算C-G系数的fortran源程序
已经有1人回复
- 【求助】懂Fortran并行计算的高手请进
已经有7人回复
- 【求助】求助个Fortran计算，应该不难，半天搞不定，请高手帮忙
已经有11人回复
suyi20466975
至尊木虫 (正式写手)
巾帼将军
- 应助: 6 (幼儿园)
- 金币: 10436.8
- 散金: 47
- 红花: 48
- 帖子: 703
- 在线: 129.5小时
- 虫号: 738293
- 注册: 2009-04-02
- 性别: MM
- 专业: 凝聚态物性 II ：电子结构
2楼2016-01-24 17:18:53
virtualzx
木虫 (著名写手)
- 应助: 263 (大学生)
- 金币: 7161.3
- 红花: 54
- 帖子: 1605
- 在线: 317.6小时
- 虫号: 2069080
- 注册: 2012-10-18
- 性别: GG
- 专业: 理论和计算化学
|
你用的四字节整数，就只能到这个数量级。如果需要更多，可以告诉编译器使用八字节整数(ifort 的flag 是-i8)，可以到二十位数。再多一般就没有使用精确数值的必要了，可以用浮点数近似代替 发自小木虫IOS客户端 |
3楼2016-01-24 17:56:09
4楼2016-01-24 20:57:00
5楼2016-01-24 20:58:49
virtualzx
木虫 (著名写手)
- 应助: 263 (大学生)
- 金币: 7161.3
- 红花: 54
- 帖子: 1605
- 在线: 317.6小时
- 虫号: 2069080
- 注册: 2012-10-18
- 性别: GG
- 专业: 理论和计算化学
【答案】应助回帖
感谢参与，应助指数 +1
|
你这个变量是整数，不是实型。八字节整数定义为integer*8 如果不想改代码可以用flag让编译器自动把所有整形视为长整数，windows没用过， 但猜测应该是/i8 发自小木虫IOS客户端 |
» 本帖已获得的红花（最新10朵）
hshx92916楼2016-01-25 00:35:15
suyi20466975
至尊木虫 (正式写手)
巾帼将军
- 应助: 6 (幼儿园)
- 金币: 10436.8
- 散金: 47
- 红花: 48
- 帖子: 703
- 在线: 129.5小时
- 虫号: 738293
- 注册: 2009-04-02
- 性别: MM
- 专业: 凝聚态物性 II ：电子结构
7楼2016-01-25 08:54:40
8楼2016-01-25 09:32:38
9楼2016-01-25 09:36:00
virtualzx
木虫 (著名写手)
- 应助: 263 (大学生)
- 金币: 7161.3
- 红花: 54
- 帖子: 1605
- 在线: 317.6小时
- 虫号: 2069080
- 注册: 2012-10-18
- 性别: GG
- 专业: 理论和计算化学
10楼2016-01-25 11:05:21
