24小时热门版块排行榜    

查看: 1083  |  回复: 2

yuyunlong

金虫 (初入文坛)

[求助] 20bit可以精确到小数点后几位?已有1人参与

20bit可以精确到小数点后几位?

发自小木虫Android客户端
回复此楼
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

wake_up

木虫 (著名写手)

【答案】应助回帖

感谢参与,应助指数 +1
你这20位的没办法弄啊。 都是整数字节用。 IEEE754格式。
如果你设计硬件程序的话,你根据你自己的需要的表示范围用这20位编码吧。

比如你这个信号采集里面的ADC转换,表示电压0~5V, 你就用5V除以2的20次方。 当然,精确的测量系统不是纯线性的。
扫地扫地扫心地,心地不扫空扫地,人人都把心地扫,世上无处不净地.
2楼2016-03-23 15:21:40
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

derekwoo

新虫 (初入文坛)

double型8个字节好像是6位

发自小木虫IOS客户端
3楼2016-03-23 16:04:42
已阅   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 yuyunlong 的主题更新
信息提示
请填处理意见