24小时热门版块排行榜    

查看: 567  |  回复: 0

S2020308

新虫 (初入文坛)

[交流] 模型的参数量和推理速度

请问模型的参数量和推理速度之间有什么对应关系吗?模型参数量压缩几倍 在硬件上模型的推理速度也会同等提升几倍吗?如果模型压缩了好几倍 但是推理速度没有显著提高 这是正常的吗 或者可能是什么原因导致的呢?
回复此楼

» 猜你喜欢

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 S2020308 的主题更新
普通表情 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 290 材料与化工求调剂 +3 Nebulala 2026-03-08 3/150 2026-03-08 15:45 by 吃骨头的欢欢丫
[考研] 085700资环求调剂,初始279,六级已过,英语能力强 +4 085700资环调剂 2026-03-03 5/250 2026-03-08 13:35 by 30660438
[考研] 0817化学工程与技术312分求调剂 +7 T123 tt 2026-03-04 7/350 2026-03-08 11:18 by 我的船我的海
[考研] 调剂 +4 13853210211 2026-03-02 5/250 2026-03-08 09:40 by 30660438
[考研] 085701环境工程专业,初试305,均过国家A区线 +7 卡卡来了@ 2026-03-07 8/400 2026-03-08 06:40 by 刘兵
[考研] 材料科学(0805)338 求调剂 +7 xiaokang3286 2026-03-07 7/350 2026-03-08 03:42 by lfhuang
[考研] 0307化学求调剂 +6 0ok0k 2026-03-07 6/300 2026-03-07 20:10 by pies112
[考研] 304求调剂 +4 52hz~~ 2026-03-05 5/250 2026-03-07 15:47 by lature00
[考研] 276求调剂 本科天津工业大学 一志愿北京化工大学0855 +4 路lyh123 2026-03-06 6/300 2026-03-07 11:37 by shdliugang
[考研] 085600材料调剂 总分330 +6 池池丶 2026-03-03 6/300 2026-03-06 15:50 by @飒飒飒飒
[考研] 不限学校专业的调剂同学看过来 +5 啊摆啊摆 2026-03-05 9/450 2026-03-06 12:06 by 啊摆啊摆
[考研] 求调剂 +5 danyyyy 2026-03-04 5/250 2026-03-06 08:16 by Leeding1356
[考研] 材料与化工304求调剂 +7 邱gl 2026-03-05 10/500 2026-03-06 01:11 by 卷柏卷柏
[考研] 没上岸的看过来 +3 tangxiaotian 2026-03-01 5/250 2026-03-05 13:56 by tangxiaotian
[考研] 320材料一志愿西工大专硕英二数二 有两年光伏工作经验 +5 锤某人 2026-03-04 8/400 2026-03-05 09:24 by oxidpl
[考研] 0703化学求调剂 +3 将未有期 2026-03-04 3/150 2026-03-04 16:19 by sslc1985
[考研] 281求调剂 +3 Y?l?h 2026-03-04 3/150 2026-03-04 10:51 by 汪!?!
[考研] 复试调剂 +4 杰尼龟aaa 2026-03-03 4/200 2026-03-03 23:06 by zhukairuo
[考研] 0856材料工程,初试313调剂 +7 卖个关子吧 2026-03-03 7/350 2026-03-03 21:33 by L135790
[考研] 11408,学硕276求调剂 +3 崔wj 2026-03-02 5/250 2026-03-02 22:14 by 255671
信息提示
请填处理意见