| 查看: 679 | 回复: 0 | |||
[交流]
模型的参数量和推理速度
|
| 请问模型的参数量和推理速度之间有什么对应关系吗？模型参数量压缩几倍 在硬件上模型的推理速度也会同等提升几倍吗？如果模型压缩了好几倍 但是推理速度没有显著提高 这是正常的吗 或者可能是什么原因导致的呢？ |
回复此楼» 猜你喜欢
上海工程技术大学 激光智能制造课题组 2027级博士研究生招生
已经有5人回复
-
课题组招2027级博士 上海工程技术大学 激光智能制造方向
已经有5人回复
-
有机合成以后会不会被AI改变？做科研的虫友怎么看
已经有8人回复
-
求合成方法
已经有7人回复
-
现代”学阀”该如何界定
已经有12人回复
-
我的奶奶
已经有3人回复