| 查看: 658 | 回复: 0 | |||
[交流]
模型的参数量和推理速度
|
| 请问模型的参数量和推理速度之间有什么对应关系吗？模型参数量压缩几倍 在硬件上模型的推理速度也会同等提升几倍吗？如果模型压缩了好几倍 但是推理速度没有显著提高 这是正常的吗 或者可能是什么原因导致的呢？ |
回复此楼» 猜你喜欢
欢迎发来filecode的Mz6后的代码验证其规律
已经有123人回复
-
今天基金会出结果吗？20260819
已经有13人回复
-
时间戳变了，能看出什么问题？
已经有16人回复
-
filecode，4个jtjc了
已经有13人回复
-
为什么余额宝的年化利率越来越低？主要原因有哪些？
已经有5人回复
-
今天放榜没戏了吧
已经有5人回复
-
今天放榜吗？
已经有15人回复
-
filecode=后面第一个是大写字母
已经有12人回复
-
2027广东省杰青
已经有10人回复
-
朋友圈看到的
已经有8人回复
