| 查看: 538 | 回复: 0 | |||
[交流]
模型的参数量和推理速度
|
| 请问模型的参数量和推理速度之间有什么对应关系吗？模型参数量压缩几倍 在硬件上模型的推理速度也会同等提升几倍吗？如果模型压缩了好几倍 但是推理速度没有显著提高 这是正常的吗 或者可能是什么原因导致的呢？ |
回复此楼» 猜你喜欢
基金委咋了？2026年的指南还没有出来？
已经有4人回复
-
纳米粒子粒径的测量
已经有8人回复
-
疑惑？
已经有5人回复
-
国自然申请面上模板最新2026版出了吗？
已经有14人回复
-
计算机、0854电子信息（085401-058412）调剂
已经有5人回复
-
Materials Today Chemistry审稿周期
已经有5人回复
-
溴的反应液脱色
已经有7人回复
-
推荐一本书
已经有12人回复
-
基金申报
已经有4人回复
-
常年博士招收(双一流，工科)
已经有4人回复