| 查看: 1256 | 回复: 5 | |||
| 当前只显示满足指定条件的回帖，点击这里查看本话题的所有回帖 | |||
[求助]
fortran里的intrisic function: precision()x结果表示什么意思
|
|||
|
我直观的理解，precision的结果表示的应该是数值精度即有效数字的位数。以上程序在CVF6.5里运行的，虽然precision返回的结果是6，但后面的结果不是表明fortran内部处理单精度数是按有效位数8位来处理的吗？ 哪位高手来帮忙解惑，并讨论讨论对precision的理解。 [ Last edited by btx97 on 2013-6-19 at 22:14 ] |
回复此楼» 猜你喜欢
售SCI一区文章，我:8.O.55.1.O.54,科目齐全,可伽急
已经有3人回复
-
感觉是下周放榜了
已经有8人回复
-
filecode=后面第一个是大写字母
已经有10人回复
-
售SCI一区T0P文章，我:8O.55.1.O.54,科目全,可伽急
已经有5人回复
-
售SCI一区文章，我:8.O.551.O.5.4,科目全,可伽急
已经有3人回复
-
欢迎发来filecode的Mz6后的代码验证其规律
已经有81人回复
-
售SCI一区文章，我:8.O.551.O.5.4,科目全,可伽急
已经有7人回复
-
时间戳变了，能看出什么问题？
已经有4人回复
-
哪位老哥知道今年的国自然具体哪一天放榜？
已经有15人回复
-
售SCI文章，我:8O5.5.1.O.54,科目齐全,可+急
已经有6人回复
» 本主题相关价值贴推荐，对您同样有帮助:
- fortran中函数string(i:i)表示什么意思，trim()表示什么意思
已经有4人回复
- fortran中Idint函数是什么意思？
已经有4人回复
- Fortran的subroutine和function有什么区别，是在于输入输出的特点吗？
已经有13人回复
- 【求助】FORTRAN中的这几个关键字是什么意思呢【已完结】
已经有4人回复
pippi6
铁杆木虫 (著名写手)
工程和科学数值计算咨询
- 应助: 413 (硕士)
- 贵宾: 0.002
- 金币: 7116.5
- 散金: 15
- 红花: 63
- 帖子: 1639
- 在线: 798.9小时
- 虫号: 2469437
- 注册: 2013-05-14
- 专业: 计算数学与科学工程计算
【答案】应助回帖
★ ★ ★ ★ ★
btx97: 金币+5, ★★★很有帮助, 谢谢讨论 2013-06-20 17:13:39
btx97: 金币+5, ★★★很有帮助, 谢谢讨论 2013-06-20 17:13:39
|
这需要理解实数模型。以单精度为例， 在compag fortran里是 4 bytes =32 bits。其中 8 bits 是指数，23bits 是有效数字，1 bit 是符号。23 bits 最大可以 承载 2**23=8388608 = 10** 6.9236899 这么大的非负数字，在十进制里就是说最大位数为 log10 （2**23）=23*log10（2）= 6.9236899 。取整没什么意义，不过就是一般不说6.92位数字，而说6位数字。但我宁愿说接近7位有效数字，更不易误导。 有一点也许应该注意，compag fortran （以前的digital vax fortran）双精度存储的有效数字是56bits，但计算有效数字是53bits。相信intel fortran应类似。 详细可读 fortran help under ‘Model for Real Data ’ 和 'Data Representation'。 至于 write(*,*) 0.00052345678==0.00052345679 就是个试。write(*,*) 0.00042345678==0.00042345679 还是F呢。 |
5楼2013-06-20 13:36:17
pippi6
铁杆木虫 (著名写手)
工程和科学数值计算咨询
- 应助: 413 (硕士)
- 贵宾: 0.002
- 金币: 7116.5
- 散金: 15
- 红花: 63
- 帖子: 1639
- 在线: 798.9小时
- 虫号: 2469437
- 注册: 2013-05-14
- 专业: 计算数学与科学工程计算
【答案】应助回帖
★
感谢参与，应助指数 +1
ben_ladeng: 金币+1, 谢谢指教 2013-06-20 21:50:31
感谢参与，应助指数 +1
ben_ladeng: 金币+1, 谢谢指教 2013-06-20 21:50:31
| precision 是fortran的一个内部函数， 标明实变量的十进制精度的取整字长。precision（x)=6 如果 x 是单精度，precision（x)=15 如果 x 是双精度。单精度使用24bit，一位作为符号，剩下的作为字长，所以十进制字长为 23*log10（2）=6.9236899，取整为6；类似双精度使用53bit， 字长为 52*log10（2）=15.65355977，取整为15。所以，双精度比单精度的两倍要高一些 ：）。 |
2楼2013-06-20 07:18:26
pippi6
铁杆木虫 (著名写手)
工程和科学数值计算咨询
- 应助: 413 (硕士)
- 贵宾: 0.002
- 金币: 7116.5
- 散金: 15
- 红花: 63
- 帖子: 1639
- 在线: 798.9小时
- 虫号: 2469437
- 注册: 2013-05-14
- 专业: 计算数学与科学工程计算
3楼2013-06-20 07:46:19
4楼2013-06-20 12:46:12
