| 查看: 675 | 回复: 0 | |||
[交流]
模型的参数量和推理速度
|
| 请问模型的参数量和推理速度之间有什么对应关系吗？模型参数量压缩几倍 在硬件上模型的推理速度也会同等提升几倍吗？如果模型压缩了好几倍 但是推理速度没有显著提高 这是正常的吗 或者可能是什么原因导致的呢？ |
回复此楼» 猜你喜欢
科研求助
已经有3人回复
-
面上没中，邀请各位路过的虫友分析一下分数
已经有15人回复
-
博士去二本高校当辅导员，如何调整心态？
已经有10人回复
-
面上有专家说实验设备不是我们单位的
已经有6人回复
-
江苏省自然基金 什么时候出结果
已经有6人回复
-
广西大学-广州大学招聘博士后 欢迎广大优秀人才！！！
已经有11人回复
-
闲聊
已经有3人回复
-
两块石头
已经有10人回复
-
售SCI一区T0P文章，我:8O.55.1.O.54,科目全,可伽急
已经有15人回复
-
初秋的晨风
已经有6人回复