| 查看: 609 | 回复: 0 | |||
[交流]
模型的参数量和推理速度
|
| 请问模型的参数量和推理速度之间有什么对应关系吗？模型参数量压缩几倍 在硬件上模型的推理速度也会同等提升几倍吗？如果模型压缩了好几倍 但是推理速度没有显著提高 这是正常的吗 或者可能是什么原因导致的呢？ |
回复此楼» 猜你喜欢
航天502所 高瑛珂博士 婚内征婚 欺骗女性开房
已经有21人回复
-
地球科学部D01口青年基金，最低几A几B几C才能有几率中呀。
已经有4人回复
-
宿州学院学报
已经有6人回复
-
投稿文章被秒拒了
已经有5人回复
-
招收2026级博士生
已经有6人回复
-
博士申请
已经有5人回复