| 查看: 910 | 回复: 1 | |||
silence_qj铁虫 (初入文坛)
|
[交流]
float的精度和范围的求法
|
|
首先说一下： 范围是3.4E-38 ——3.4E+38，可提供7位有效数字。 上述这两个量都是近似值，各个编译器不太一样的。 下面我就将标准值是怎么定义的，和你说一下： 这个比较复杂，建议你找一下IEEE754标准看一下。 这个简单说一下吧： 在IEEE754标准中进行了单精度浮点数(float)和双精度数浮点数(double)的定义。float有32bit，double有64bit。它们的构成包括符号位、指数位和尾数位。 这些位的构成如下： 种类-------符号位-------------指数位----------------尾数位---- float---第31位(占1bit)---第30-23位(占8bit)----第22-0位(占23bit) double--第63位(占1bit)---第62-52位(占11bit)---第51-0位(占52bit) 取值范围主要看指数部分： float的指数部分有8bit(2^8)，由于是有符号型，所以得到对应的指数范围-128~128。 double的指数部分有11bit(2^11)，由于是有符号型，所以得到对应的指数范围-1024~1024。 由于float的指数部分对应的指数范围为-128~128，所以取值范围为： -2^128到2^128，约等于-3.4E38 — +3.4E38 精度(有效数字)主要看尾数位： float的尾数位是23bit，对应7~8位十进制数，所以有效数字有的编译器是7位，也有的是8位 |
回复此楼» 猜你喜欢
极限拉扯，如何抉择
已经有10人回复
-
入职后第一次管课题组的专利缴费，对账才发现官费比别人多掏了一倍
已经有6人回复
-
OpenAI又攻克数学难题了，离AI做有机合成还有多远？
已经有8人回复
-
课题组会帮你通过考核么？
已经有6人回复
-
售一区SCI文章T0P，我:8O.551.O54,科目全,可十急
已经有9人回复
-
售SCI一区文章，我:8O5.5.1.O5.4,科目全,可伽急
已经有10人回复
-
售SCI一区T0P文章，我:8.O55.1.O.54,科目全,可十急
已经有8人回复
-
售SCI一区T0P文章，我:8.O55.1.O.54,科目全,可十急
已经有9人回复
-
售SCI一区文章，我:8.O.55.1.O.54,科目齐全,可伽急
已经有7人回复
-
售SCI文章，我:8O5.5.1.O.54,科目齐全,可+急
已经有10人回复
baobiao007
木虫 (职业作家)
中国特色
- 应助: 201 (大学生)
- 金币: 6484.2
- 散金: 557
- 红花: 40
- 帖子: 3050
- 在线: 1009.9小时
- 虫号: 505962
- 注册: 2008-02-18
- 专业: 应用地球物理学
2楼2012-12-07 18:31:03
