| 查看: 1320 | 回复: 5 | ||
| 当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖 | ||
[求助]
fortran里的intrisic function: precision()x结果表示什么意思
|
||
|
我直观的理解,precision的结果表示的应该是数值精度即有效数字的位数。以上程序在CVF6.5里运行的,虽然precision返回的结果是6,但后面的结果不是表明fortran内部处理单精度数是按有效位数8位来处理的吗? 哪位高手来帮忙解惑,并讨论讨论对precision的理解。 [ Last edited by btx97 on 2013-6-19 at 22:14 ] |
» 猜你喜欢
广西大学-广州大学招聘博士后 欢迎广大优秀人才!!!
已经有9人回复
闲聊
已经有3人回复
江苏省自然基金 什么时候出结果
已经有4人回复
如何查询2026年获批项目名称?
已经有3人回复
两块石头
已经有10人回复
科研人应该花精力去思考如何解决问题,而不是去凝练问题
已经有19人回复
售SCI一区T0P文章,我:8O.55.1.O.54,科目全,可伽急
已经有15人回复
面上没中,邀请各位路过的虫友分析一下分数
已经有13人回复
初秋的晨风
已经有6人回复
Ei源刊怎么投
已经有4人回复
» 本主题相关价值贴推荐,对您同样有帮助:
fortran中函数string(i:i)表示什么意思,trim()表示什么意思
已经有4人回复
fortran中Idint函数是什么意思?
已经有4人回复
Fortran的subroutine和function有什么区别,是在于输入输出的特点吗?
已经有13人回复
【求助】FORTRAN中的这几个关键字是什么意思呢【已完结】
已经有4人回复
6楼2013-06-20 18:41:05
pippi6
铁杆木虫 (著名写手)
工程和科学数值计算咨询
- 应助: 413 (硕士)
- 贵宾: 0.002
- 金币: 7116.5
- 散金: 15
- 红花: 63
- 帖子: 1639
- 在线: 798.9小时
- 虫号: 2469437
- 注册: 2013-05-14
- 专业: 计算数学与科学工程计算
【答案】应助回帖
★
感谢参与,应助指数 +1
ben_ladeng: 金币+1, 谢谢指教 2013-06-20 21:50:31
感谢参与,应助指数 +1
ben_ladeng: 金币+1, 谢谢指教 2013-06-20 21:50:31
| precision 是fortran的一个内部函数, 标明实变量的十进制精度的取整字长。precision(x)=6 如果 x 是单精度,precision(x)=15 如果 x 是双精度。单精度使用24bit,一位作为符号,剩下的作为字长,所以十进制字长为 23*log10(2)=6.9236899,取整为6;类似双精度使用53bit, 字长为 52*log10(2)=15.65355977,取整为15。所以,双精度比单精度的两倍要高一些 :)。 |
2楼2013-06-20 07:18:26
pippi6
铁杆木虫 (著名写手)
工程和科学数值计算咨询
- 应助: 413 (硕士)
- 贵宾: 0.002
- 金币: 7116.5
- 散金: 15
- 红花: 63
- 帖子: 1639
- 在线: 798.9小时
- 虫号: 2469437
- 注册: 2013-05-14
- 专业: 计算数学与科学工程计算
3楼2013-06-20 07:46:19
4楼2013-06-20 12:46:12










回复此楼