| 查看: 821 | 回复: 1 | |||
silence_qj铁虫 (初入文坛)
|
[交流]
float的精度和范围的求法
|
|
首先说一下： 范围是3.4E-38 ——3.4E+38，可提供7位有效数字。 上述这两个量都是近似值，各个编译器不太一样的。 下面我就将标准值是怎么定义的，和你说一下： 这个比较复杂，建议你找一下IEEE754标准看一下。 这个简单说一下吧： 在IEEE754标准中进行了单精度浮点数(float)和双精度数浮点数(double)的定义。float有32bit，double有64bit。它们的构成包括符号位、指数位和尾数位。 这些位的构成如下： 种类-------符号位-------------指数位----------------尾数位---- float---第31位(占1bit)---第30-23位(占8bit)----第22-0位(占23bit) double--第63位(占1bit)---第62-52位(占11bit)---第51-0位(占52bit) 取值范围主要看指数部分： float的指数部分有8bit(2^8)，由于是有符号型，所以得到对应的指数范围-128~128。 double的指数部分有11bit(2^11)，由于是有符号型，所以得到对应的指数范围-1024~1024。 由于float的指数部分对应的指数范围为-128~128，所以取值范围为： -2^128到2^128，约等于-3.4E38 — +3.4E38 精度(有效数字)主要看尾数位： float的尾数位是23bit，对应7~8位十进制数，所以有效数字有的编译器是7位，也有的是8位 |
回复此楼» 猜你喜欢
362求调剂
已经有14人回复
-
求调剂 302分初试 0854
已经有4人回复
-
299求调剂
已经有4人回复
-
266分，一志愿电气工程，本科材料，求材料专业调剂
已经有3人回复
-
312求调剂
已经有4人回复
-
315求调剂
已经有7人回复
-
土木304求调剂
已经有3人回复
-
316求调剂
已经有16人回复
-
一志愿华东理工大学，080500学硕，317分，求调剂
已经有13人回复
-
材料与化工306分找调剂
已经有9人回复
baobiao007
木虫 (职业作家)
中国特色
- 应助: 201 (大学生)
- 金币: 6482.7
- 散金: 557
- 红花: 40
- 帖子: 3050
- 在线: 1009.9小时
- 虫号: 505962
- 注册: 2008-02-18
- 专业: 应用地球物理学
2楼2012-12-07 18:31:03
