| 查看: 3891 | 回复: 8 | |||
| 当前只显示满足指定条件的回帖，点击这里查看本话题的所有回帖 | |||
liming9398金虫 (正式写手)
|
[求助]
fortran中到底该如何比较两个实数是否相等
|
||
| 如果都是real(4)该如何比较，都是real(8) 又该如何比较？是比较绝对误差还是相对误差，哪个误差都说要小于一个比较小的数，到底应该选多小呢，不同的书说法不一样，又说-4次方的，又说-8次方的，还有的用机器精度（－8次方和-16次方，双精度表示0.24时，实际存储的是0.239999994635582，这个绝对误差本身就是-9次方量级啊，显然不是-16方的量级啊？？）到底哪个误差该选多大，有没有一个统一的标准或者最好的选择？ |
回复此楼» 收录本帖的淘帖专辑推荐
 Ouwen's Greenhouse |
» 猜你喜欢
材料求调剂 一志愿哈工大总分298分，前三科223分
已经有5人回复
-
085600 286分 材料求调剂
已经有6人回复
-
086502化学工程342求调剂
已经有4人回复
-
材料求调剂一志愿哈工大324
已经有7人回复
-
328求调剂
已经有7人回复
-
340求调剂
已经有5人回复
-
一志愿南昌大学324求调剂
已经有4人回复
-
求调剂推荐 材料 304
已经有15人回复
-
291求调剂
已经有19人回复
-
331环境科学与工程求调剂
已经有3人回复
» 本主题相关价值贴推荐，对您同样有帮助:
- 求问fortran中”-.“数据，这种格式的数据是一个负的XX数么
已经有5人回复
- 请教Fortran下如何给二维或三维数组赋初值，谢谢
已经有3人回复
- 如何改变fortran的浮点精度
已经有28人回复
- 求助计算机高人，编写个Fortran程序
已经有13人回复
- 请教一个fortran小程序编译出错的问题，谢谢
已经有9人回复
- 写了一个fortran90的小程序，编译通不过，请大侠帮忙
已经有59人回复
- 【求助】如何写FORTRAN程序实现求平均最近邻距离
已经有34人回复
- 【求助】求指点，在Fortran里面，怎样实现“数组维度可调”的数组?
已经有5人回复
- 【求助】fortran中怎么存储不确定长度的数据【已完结】
已经有6人回复
- 【求助】Fortran程序，如何让exe文件可以单独运行？
已经有6人回复
- 【求助】这样的公式，在fortran里该怎么写了，谢谢【求助成功】
已经有4人回复
sudo
木虫 (正式写手)
- 程序强帖: 16
- 应助: 6 (幼儿园)
- 金币: 1297.6
- 散金: 1486
- 红花: 20
- 帖子: 588
- 在线: 641小时
- 虫号: 1211394
- 注册: 2011-02-24
- 性别: GG
- 专业: 文艺美学
|
【答楼主问】 取一个你能接受的精度 这是个好问题。这并不是“没有充分利用数据类型”的精度，拿单精度为例吧，它有8位二进制指数位，和23位二进制小数位，加上隐含的前置1的尾数开头，相当于一共24位二进制有效数字。考虑一下很类似的科学计数法吧，假如我有一个十进制小数，但是它的整数部分不是零，比如： 12345.1 里面的12345的部分，势必要占去有效数字的一些位，这样剩下的供给0.1的有效二进制数字就没有24位那么多了，也就是我们不能使用2^-24约等于5.96E-8作为单精度小数的阈值了 还是以12345.1为例吧，转成二进制小数的话，等于 11000000111001.00011 0011 0011 0011 ...... 后面是无限循环二进制小数，去掉默认的最高位1，剩下的尾数都会放到23位的fraction里面（嗯，exponent部分是在范围内的，这里就不作讨论了），于是这个小数实际上会被截断成： 11000000111001.00011 0011 0 所以等于精确的十进制为：12345.099609375，绝对误差为0.000390625，这个绝对误差就要远远大于10^-8的量级了 嗯，楼主可以阅读下我上面提到的链接，理解之后就好办了 |
7楼2012-03-31 16:20:37
snoopyzhao
至尊木虫 (职业作家)
- 程序强帖: 16
- 应助: 157 (高中生)
- 贵宾: 0.02
- 金币: 18844.7
- 红花: 29
- 帖子: 3803
- 在线: 1422.4小时
- 虫号: 183750
- 注册: 2006-02-13
- 专业: 污染生态化学
2楼2012-03-31 09:28:48
snoopyzhao
至尊木虫 (职业作家)
- 程序强帖: 16
- 应助: 157 (高中生)
- 贵宾: 0.02
- 金币: 18844.7
- 红花: 29
- 帖子: 3803
- 在线: 1422.4小时
- 虫号: 183750
- 注册: 2006-02-13
- 专业: 污染生态化学
3楼2012-03-31 09:32:24
sudo
木虫 (正式写手)
- 程序强帖: 16
- 应助: 6 (幼儿园)
- 金币: 1297.6
- 散金: 1486
- 红花: 20
- 帖子: 588
- 在线: 641小时
- 虫号: 1211394
- 注册: 2011-02-24
- 性别: GG
- 专业: 文艺美学
【答案】应助回帖
★
感谢参与，应助指数 +1
liming9398: 金币+1 2012-03-31 11:19:03
感谢参与，应助指数 +1
liming9398: 金币+1 2012-03-31 11:19:03
|
我来吐槽一下对于“精度”的理解应该怎样吧 首先，我们应该了解IEEE754标准规定的单精度和双精度是怎样的 关于IEEE754标准：http://en.wikipedia.org/wiki/IEEE754 关于单精度：http://en.wikipedia.org/wiki/Sin ... oating-point_format 关于双精度：http://en.wikipedia.org/wiki/Dou ... oating-point_format 注意：尾数部分（fraction）是二进制表示的！ 单精度的尾数有23位，所以它的最小单位是2的-24次方，约等于5.96E-8；双精度的尾数有52位，所以它的最小单位是2的-53次方，约1.11E-16，常说的“机器精度”是这个意思 领悟十进制转二进制的局限性的话，你就知道为啥就连quadruple precision四精度都不可能精确表达0.1这么简单一个十进制小数了【同时，就算是单精度，也能够精确表达2^-149这个如此微小的十进制小数（约1.4E-45）】，楼主最初问题的答案也呼之欲出了：这个要根据实际的需求来定，因为一般的计算里面，大部分小数都不是被精确表示的，不能教条主义地选择阈值的大小 |
4楼2012-03-31 09:49:27
20