24小时热门版块排行榜    

查看: 527  |  回复: 0

S2020308

新虫 (初入文坛)

[交流] 模型的参数量和推理速度

请问模型的参数量和推理速度之间有什么对应关系吗?模型参数量压缩几倍 在硬件上模型的推理速度也会同等提升几倍吗?如果模型压缩了好几倍 但是推理速度没有显著提高 这是正常的吗 或者可能是什么原因导致的呢?
回复此楼

» 猜你喜欢

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 S2020308 的主题更新
普通表情 高级回复 (可上传附件)
信息提示
请填处理意见