24小时热门版块排行榜    

北京石油化工学院2026年研究生招生接收调剂公告
查看: 1120  |  回复: 2

yuyunlong

金虫 (初入文坛)

[求助] 20bit可以精确到小数点后几位? 已有1人参与

20bit可以精确到小数点后几位?

发自小木虫Android客户端
回复此楼

» 猜你喜欢

已阅   关注TA 给TA发消息 送TA红花 TA的回帖

wake_up

木虫 (著名写手)

【答案】应助回帖

感谢参与,应助指数 +1
你这20位的没办法弄啊。 都是整数字节用。 IEEE754格式。
如果你设计硬件程序的话,你根据你自己的需要的表示范围用这20位编码吧。

比如你这个信号采集里面的ADC转换,表示电压0~5V, 你就用5V除以2的20次方。 当然,精确的测量系统不是纯线性的。
扫地扫地扫心地,心地不扫空扫地,人人都把心地扫,世上无处不净地.
2楼2016-03-23 15:21:40
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

derekwoo

新虫 (初入文坛)

double型8个字节好像是6位

发自小木虫IOS客户端
3楼2016-03-23 16:04:42
已阅   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 yuyunlong 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 一志愿上海海洋大学083200食品学硕,求调剂,接受其他专业 +6 what张 2026-04-01 7/350 2026-04-02 16:48 by zzsw+
[考研] 化工调剂303分,过四级 +9 栖梧待风 2026-04-02 9/450 2026-04-02 16:43 by SZW_UJN
[考研] 318求调剂 +3 笃行致远. 2026-03-31 4/200 2026-04-02 15:56 by Jaylen.
[考研] 071000生物学调剂 +6 知昭蔓 2026-04-02 6/300 2026-04-02 15:28 by sophie2180
[考研] 材料调剂 +6 懒羊羊轻置玉臀 2026-04-02 6/300 2026-04-02 14:47 by 5896
[考研] 一志愿北京科技大学085601材料工程英一数二初试总分335求调剂 +8 双马尾痞老板2 2026-04-02 9/450 2026-04-02 14:45 by 5896
[考研] 085600,材料与化工321分调剂 +8 大馋小子 2026-03-27 10/500 2026-04-02 10:15 by kaiyanjie
[考研] 考研调剂 +12 Amber00 2026-03-31 12/600 2026-04-02 09:04 by sanrepian
[考研] 化学工程专硕324分,一志愿中国矿业大学求调剂 +7 耿耿1314 2026-04-01 7/350 2026-04-02 07:40 by 尚水阁主
[考研] 266分求材料化工冶金矿业等专业的调剂 +7 哇呼哼呼哼 2026-03-26 7/350 2026-04-01 20:47 by cqupH
[考研] 362求调剂 +13 西南交材料专硕3 2026-03-31 13/650 2026-04-01 17:38 by JYD2011
[考研] 调剂 +5 好好读书。 2026-03-28 7/350 2026-04-01 15:32 by 王亮_大连医科大
[考研] 一志愿北交材料工程总分358 +5 cs0106 2026-04-01 7/350 2026-04-01 11:45 by wangjy2002
[考研] 0856材料化工调剂 总分330 +18 zhubinhao 2026-03-27 18/900 2026-04-01 09:37 by oooqiao
[考研] 土木304求调剂 +5 顶级擦擦 2026-03-31 5/250 2026-04-01 08:15 by fdcxdystjk¥
[考研] 合肥区域性重点一本招收调剂 +4 6266jl 2026-03-30 8/400 2026-03-31 18:43 by 6266jl
[考研] 318求调剂 +10 陈晨79 2026-03-30 10/500 2026-03-31 17:37 by 544594351
[考研] 求收留 +8 1943443204 2026-03-28 8/400 2026-03-31 15:00 by -迷了路啊路
[考研] 276求调剂 +3 赵久华 2026-03-29 3/150 2026-03-31 10:06 by cal0306
[考研] 一志愿上海理工能源动力(085800)310分求调剂 +3 zhangmingc 2026-03-27 4/200 2026-03-27 19:01 by 给你你注意休息
信息提示
请填处理意见