| 查看: 576 | 回复: 0 | |||
[交流]
模型的参数量和推理速度
|
| 请问模型的参数量和推理速度之间有什么对应关系吗？模型参数量压缩几倍 在硬件上模型的推理速度也会同等提升几倍吗？如果模型压缩了好几倍 但是推理速度没有显著提高 这是正常的吗 或者可能是什么原因导致的呢？ |
回复此楼» 猜你喜欢
291求调剂
已经有7人回复
-
材料与化工272求调剂
已经有13人回复
-
283求调剂（080500）
已经有5人回复
-
材料科学与工程求调剂
已经有5人回复
-
一志愿北京化工大学材料与化工（085600）296求调剂
已经有17人回复
-
考研调剂
已经有7人回复
-
343求调剂085601
已经有3人回复
-
08工科求调剂286
已经有3人回复
-
337求调剂
已经有3人回复
-
329求调剂，一志愿西北工业大学，材料工程（085601）
已经有10人回复
