应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 计算模拟区 » 程序语言 » C/C++ » 20bit可以精确到小数点后几位？
北京石油化工学院2026年研究生招生接收调剂公告
31/1返回列表
查看: 1119  |  回复: 2
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看

yuyunlong

金虫 (初入文坛)

[求助] 20bit可以精确到小数点后几位？ 已有1人参与

20bit可以精确到小数点后几位？

发自小木虫Android客户端
回复此楼

» 猜你喜欢
1楼 2016-03-23 12:46:31
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

wake_up

木虫 (著名写手)

【答案】应助回帖

感谢参与，应助指数 +1
你这20位的没办法弄啊。 都是整数字节用。 IEEE754格式。
如果你设计硬件程序的话，你根据你自己的需要的表示范围用这20位编码吧。

比如你这个信号采集里面的ADC转换，表示电压0~5V， 你就用5V除以2的20次方。 当然，精确的测量系统不是纯线性的。
赞一下 回复此楼
扫地扫地扫心地，心地不扫空扫地，人人都把心地扫，世上无处不净地．
2楼2016-03-23 15:21:40
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

derekwoo

新虫 (初入文坛)
double型8个字节好像是6位

发自小木虫IOS客户端
赞一下 回复此楼
3楼2016-03-23 16:04:42
已阅   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 yuyunlong 的主题更新
31/1返回列表
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 346求调剂 +3 郑诚乐 2026-04-02 3/150 2026-04-02 13:39 by 乔哒哒哒
[考研] 266分，一志愿电气工程，本科材料，求材料专业调剂 +4 哇呼哼呼哼 2026-04-02 4/200 2026-04-02 13:10 by yulian1987
[考研] 282求调剂 +11 呼吸都是减肥 2026-04-01 11/550 2026-04-02 12:58 by GouQ
[考研] 一志愿北京科技大学085601材料工程英一数二初试总分335求调剂 +9 双马尾痞老板2 2026-04-01 9/450 2026-04-02 12:14 by oooqiao
[考研] 0710生物学336分求调剂 +3 kiyy 2026-04-01 3/150 2026-04-02 10:54 by w虫虫123
[考研] 0710生物学，325求调剂 +3 mkkkkkl 2026-04-01 3/150 2026-04-02 09:48 by Jaylen.
[考研] 085601材料工程找调剂 +20 oatmealR 2026-03-29 21/1050 2026-04-01 21:00 by lijunpoly
[考研] 材料专硕调剂 +17 椰椰。 2026-03-29 17/850 2026-04-01 20:44 by cq2548
[考研] 085600，321分求调剂 +13 大馋小子 2026-03-31 13/650 2026-04-01 12:35 by chemdavid
[考研] 085601英二数二求调剂 总分325 +4 余航航 2026-03-31 4/200 2026-03-31 17:38 by 唐沐儿
[考研] 考研调剂求助 +7 13287130938 2026-03-31 7/350 2026-03-31 16:39 by 690616278
[考研] 物理学调剂 +4 小羊36 2026-03-30 4/200 2026-03-31 16:16 by lishahe
[基金申请] 面上5B能上会吗？ +8 redcom 2026-03-29 8/400 2026-03-31 15:53 by niuailing
[考研] 求调剂 +8 11ggg 2026-03-30 8/400 2026-03-31 13:56 by nanaliuyun
[考研] 081200-11408-276学硕求调剂 +4 崔wj 2026-03-31 4/200 2026-03-31 11:56 by jp9609
[考研] 085600 286分 材料求调剂 +11 麻辣鱿鱼 2026-03-27 12/600 2026-03-30 19:33 by Wang200018
[考研] 327求调剂 +5 小卡不卡. 2026-03-29 5/250 2026-03-30 19:30 by Wang200018
[考研] 求调剂，一志愿 南京航空航天大学大学 ，080500材料科学与工程学硕 +6 @taotao 2026-03-26 7/350 2026-03-30 10:43 by 我是小康
[考研] 本科双非材料，跨考一志愿华电085801电气，283求调剂，任何专业都可以 +6 芝士雪baoo 2026-03-28 8/400 2026-03-29 08:16 by 松花缸1201
[考研] 11408软件工程求调剂 +3 Qiu学ing 2026-03-28 3/150 2026-03-28 21:50 by zhq0425
信息提示
关闭
请填处理意见
关闭