| 查看: 619 | 回复: 2 | ||
liming9398金虫 (正式写手)
|
[求助]
浮点数存储误差的疑问
|
|
cvf6.6 中，定义real :: a a = 0.24 write (*,*) a 输出结果为0.2400000 如果定义real (8 ) a a = 0.24 write (*,*) a, 结果为0.239999994635582 双精度的反而不如单精度的准确了怎么回事呢？ 还有有人说3.*(1./3.) == 1. 这个结果为f,我测了测怎么是t呢？ 在上述a的两种定义中，如果分别把1./3.赋值给a,4个字节的结果是0.3333333 而8个字节的结果是0.333333343267411,每种情况和3相乘都不是1啊，为什么就相等呢？？ |
回复此楼» 猜你喜欢
288求调剂 一志愿哈工大 材料与化工
已经有31人回复
-
一志愿北京科技大学085601材料工程英一数二初试总分335求调剂
已经有5人回复
-
085801 总分275 本科新能源 求调剂
已经有17人回复
-
324求调剂
已经有6人回复
-
学硕化学工程与技术，一志愿中国海洋大学320+求调剂
已经有7人回复
-
材料调剂
已经有5人回复
-
初试301，代码085701环境工程，本硕一致，四六级已过，有二区一作，共发表5篇论文
已经有6人回复
-
化学308分调剂
已经有15人回复
-
346求调剂
已经有3人回复
-
环境285分，过六级，求调剂
已经有6人回复
» 本主题相关价值贴推荐，对您同样有帮助:
- 四因素三水平正交试验中，误差项是哪一项啊？
已经有13人回复
- 到底什么是定点数，什么是浮点数，什么是单精型，什么是双精型
已经有5人回复
- 【求助】浮点数作为判断条件对结果又影响吗？
已经有3人回复
snoopyzhao
至尊木虫 (职业作家)
- 程序强帖: 16
- 应助: 157 (高中生)
- 贵宾: 0.02
- 金币: 18844.7
- 红花: 29
- 帖子: 3803
- 在线: 1422.4小时
- 虫号: 183750
- 注册: 2006-02-13
- 专业: 污染生态化学
2楼2012-03-31 09:24:33
q1036210267
木虫 (正式写手)
- 应助: 26 (小学生)
- 金币: 2182.2
- 散金: 806
- 红花: 4
- 帖子: 893
- 在线: 262.1小时
- 虫号: 1346635
- 注册: 2011-07-15
- 性别: GG
- 专业: 药物化学
3楼2012-04-24 09:10:24
