24小时热门版块排行榜    

查看: 993  |  回复: 5
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

btx97

金虫 (小有名气)

[求助] fortran里的intrisic function: precision()x结果表示什么意思

CODE:
program test          
implicit none        
       
write(*,*) precision(4.5)                                ! 结果为6         
write(*,*) 1.23456789==1.23456788                !结果为T        
write(*,*) 1.2345678==1.2345677                        !结果为F        
write(*,*) 0.00012345678==0.00012345679                !结果为F        
write(*,*) 0.000123456789==0.000123456788                !结果为T  
end program test

我直观的理解,precision的结果表示的应该是数值精度即有效数字的位数。以上程序在CVF6.5里运行的,虽然precision返回的结果是6,但后面的结果不是表明fortran内部处理单精度数是按有效位数8位来处理的吗?  哪位高手来帮忙解惑,并讨论讨论对precision的理解。

[ Last edited by btx97 on 2013-6-19 at 22:14 ]
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

btx97

金虫 (小有名气)

btx97: 回帖置顶 2013-06-20 18:41:47
引用回帖:
5楼: Originally posted by pippi6 at 2013-06-20 06:36:17
这需要理解实数模型。以单精度为例, 在compag fortran里是 4 bytes =32 bits。其中 8 bits 是指数,23bits 是有效数字,1 bit 是符号。23  bits 最大可以 承载 2**23=8388608 = 10** 6.9236899  这么大的非负数字 ...

谢谢讨论。我自己也查了些资料。
fortran里关于单精度相等的判断可能是这样的:
当第一个有效数字小于5时其精度为8即需要判断前面8个数字是否相等,
当第一个有效数字大于等于5时其精度为7即需要判断前面7个数字是否相等。
不过这个跟precision(4.5)=6有点说不通呀,毕竟precision就是精度的意思呀。不过加两个条件就成6了: 1, 最小精度。 2,有效数字(机器有效数??)中最后一位定为估值不算到精度里面。
好牵强呀
6楼2013-06-20 18:41:05
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 6 个回答

pippi6

铁杆木虫 (著名写手)

工程和科学数值计算咨询

【答案】应助回帖


感谢参与,应助指数 +1
ben_ladeng: 金币+1, 谢谢指教 2013-06-20 21:50:31
precision 是fortran的一个内部函数, 标明实变量的十进制精度的取整字长。precision(x)=6   如果 x 是单精度,precision(x)=15   如果 x 是双精度。单精度使用24bit,一位作为符号,剩下的作为字长,所以十进制字长为 23*log10(2)=6.9236899,取整为6;类似双精度使用53bit, 字长为 52*log10(2)=15.65355977,取整为15。所以,双精度比单精度的两倍要高一些 :)。
2楼2013-06-20 07:18:26
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

pippi6

铁杆木虫 (著名写手)

工程和科学数值计算咨询

【答案】应助回帖

另外,
write(*,*) 0.00012345678==0.00012345679                !结果为F

write(*,*) 0.00052345678==0.00052345679                !结果就为T
所以,并不是真的8位数
3楼2013-06-20 07:46:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

btx97

金虫 (小有名气)

引用回帖:
2楼: Originally posted by pippi6 at 2013-06-20 00:18:26
precision 是fortran的一个内部函数, 标明实变量的十进制精度的取整字长。precision(x)=6   如果 x 是单精度,precision(x)=15   如果 x 是双精度。单精度使用24bit,一位作为符号,剩下的作为字长,所以十进制字 ...

谢谢。不过你能解释下,单精度下23*log10(2)是什么意思,其取整后的6有什么意义,有什么实际应用吗? 另外,write(*,*) 0.00052345678==0.00052345679 这个你怎么找到的?
4楼2013-06-20 12:46:12
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
信息提示
请填处理意见