24小时热门版块排行榜    

查看: 978  |  回复: 5

btx97

金虫 (小有名气)

[求助] fortran里的intrisic function: precision()x结果表示什么意思

CODE:
program test          
implicit none        
       
write(*,*) precision(4.5)                                ! 结果为6         
write(*,*) 1.23456789==1.23456788                !结果为T        
write(*,*) 1.2345678==1.2345677                        !结果为F        
write(*,*) 0.00012345678==0.00012345679                !结果为F        
write(*,*) 0.000123456789==0.000123456788                !结果为T  
end program test

我直观的理解,precision的结果表示的应该是数值精度即有效数字的位数。以上程序在CVF6.5里运行的,虽然precision返回的结果是6,但后面的结果不是表明fortran内部处理单精度数是按有效位数8位来处理的吗?  哪位高手来帮忙解惑,并讨论讨论对precision的理解。

[ Last edited by btx97 on 2013-6-19 at 22:14 ]
回复此楼

» 猜你喜欢

» 本主题相关价值贴推荐,对您同样有帮助:

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
回帖置顶 ( 共有1个 )

btx97

金虫 (小有名气)

btx97: 回帖置顶 2013-06-20 18:41:47
引用回帖:
5楼: Originally posted by pippi6 at 2013-06-20 06:36:17
这需要理解实数模型。以单精度为例, 在compag fortran里是 4 bytes =32 bits。其中 8 bits 是指数,23bits 是有效数字,1 bit 是符号。23  bits 最大可以 承载 2**23=8388608 = 10** 6.9236899  这么大的非负数字 ...

谢谢讨论。我自己也查了些资料。
fortran里关于单精度相等的判断可能是这样的:
当第一个有效数字小于5时其精度为8即需要判断前面8个数字是否相等,
当第一个有效数字大于等于5时其精度为7即需要判断前面7个数字是否相等。
不过这个跟precision(4.5)=6有点说不通呀,毕竟precision就是精度的意思呀。不过加两个条件就成6了: 1, 最小精度。 2,有效数字(机器有效数??)中最后一位定为估值不算到精度里面。
好牵强呀
6楼2013-06-20 18:41:05
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通回帖

pippi6

铁杆木虫 (著名写手)

工程和科学数值计算咨询

【答案】应助回帖


感谢参与,应助指数 +1
ben_ladeng: 金币+1, 谢谢指教 2013-06-20 21:50:31
precision 是fortran的一个内部函数, 标明实变量的十进制精度的取整字长。precision(x)=6   如果 x 是单精度,precision(x)=15   如果 x 是双精度。单精度使用24bit,一位作为符号,剩下的作为字长,所以十进制字长为 23*log10(2)=6.9236899,取整为6;类似双精度使用53bit, 字长为 52*log10(2)=15.65355977,取整为15。所以,双精度比单精度的两倍要高一些 :)。
2楼2013-06-20 07:18:26
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

pippi6

铁杆木虫 (著名写手)

工程和科学数值计算咨询

【答案】应助回帖

另外,
write(*,*) 0.00012345678==0.00012345679                !结果为F

write(*,*) 0.00052345678==0.00052345679                !结果就为T
所以,并不是真的8位数
3楼2013-06-20 07:46:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

btx97

金虫 (小有名气)

引用回帖:
2楼: Originally posted by pippi6 at 2013-06-20 00:18:26
precision 是fortran的一个内部函数, 标明实变量的十进制精度的取整字长。precision(x)=6   如果 x 是单精度,precision(x)=15   如果 x 是双精度。单精度使用24bit,一位作为符号,剩下的作为字长,所以十进制字 ...

谢谢。不过你能解释下,单精度下23*log10(2)是什么意思,其取整后的6有什么意义,有什么实际应用吗? 另外,write(*,*) 0.00052345678==0.00052345679 这个你怎么找到的?
4楼2013-06-20 12:46:12
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

pippi6

铁杆木虫 (著名写手)

工程和科学数值计算咨询

【答案】应助回帖

★ ★ ★ ★ ★
btx97: 金币+5, ★★★很有帮助, 谢谢讨论 2013-06-20 17:13:39
引用回帖:
4楼: Originally posted by btx97 at 2013-06-20 12:46:12
谢谢。不过你能解释下,单精度下23*log10(2)是什么意思,其取整后的6有什么意义,有什么实际应用吗? 另外,write(*,*) 0.00052345678==0.00052345679 这个你怎么找到的?...

这需要理解实数模型。以单精度为例, 在compag fortran里是 4 bytes =32 bits。其中 8 bits 是指数,23bits 是有效数字,1 bit 是符号。23  bits 最大可以 承载 2**23=8388608 = 10** 6.9236899  这么大的非负数字,在十进制里就是说最大位数为  log10 (2**23)=23*log10(2)= 6.9236899 。取整没什么意义,不过就是一般不说6.92位数字,而说6位数字。但我宁愿说接近7位有效数字,更不易误导。

有一点也许应该注意,compag fortran (以前的digital vax fortran)双精度存储的有效数字是56bits,但计算有效数字是53bits。相信intel fortran应类似。

详细可读 fortran help under ‘Model for Real Data ’ 和 'Data Representation'。

至于 write(*,*) 0.00052345678==0.00052345679 就是个试。write(*,*) 0.00042345678==0.00042345679 还是F呢。
5楼2013-06-20 13:36:17
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 btx97 的主题更新
信息提示
请填处理意见