24小时热门版块排行榜    

查看: 5496  |  回复: 7
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

10032119

银虫 (小有名气)

[求助] ANSYS Fluent14.5单双精度问题 已有1人参与

Fluent的UserGuide中提到对单精度计算,残差可降低6个数量级,而对于双精度则降低12个?这个降低指的是什么呢?是你设定的残差值最低设置10^-6(单精度),或10^-12(对双精度),还是什么意思?求解答

ANSYS Fluent14.5单双精度问题
捕获.JPG
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zhou_ruirui

木虫 (小有名气)

在MATLAB中节点数很多的情况下,误差会累积,根据我的计算,可能精度连10^-12都达不到,大概只有10^-10

发自小木虫Android客户端
8楼2016-06-24 18:28:17
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 8 个回答

mycc

专家顾问 (正式写手)

【答案】应助回帖

★ ★ ★ ★ ★
感谢参与,应助指数 +1
10032119: 金币+5, ★★★很有帮助 2016-06-22 16:54:42
说明双精度计算误差更小,计算结果更加精确
项目汇总:http://www.cfluid.com/forum.php?mod=viewthread&tid=114340&extra=
2楼2016-06-22 15:31:42
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

10032119

银虫 (小有名气)

引用回帖:
2楼: Originally posted by mycc at 2016-06-22 15:31:42
说明双精度计算误差更小,计算结果更加精确

,感谢应答。那双精度的选择对实际对残差(scaled、global)值的底线,比如是10-^8还是10^-12有什么特殊规定吗?
3楼2016-06-22 16:54:29
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

mycc

专家顾问 (正式写手)

【答案】应助回帖

没有特殊规定,残差只是考察收敛的一个方面,更重要的是监视自己关心的值,这个值收敛了,才是真正的收敛
项目汇总:http://www.cfluid.com/forum.php?mod=viewthread&tid=114340&extra=
4楼2016-06-22 20:47:09
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[硕博家园] 售SCI一区文章,我:8.O.551.O.5.4,科目全,可伽急 +4 XJXMuRjD7cK7 2026-11-13 4/200 2026-11-16 11:28 by K7HMGGdOpylw
[公派出国] 售一区SCI文章T0P,我:8O.551.O54,科目全,可十急 +3 SX5mJmPWDfOO 2026-11-13 3/150 2026-11-15 08:29 by xSrQNSSjcgoX
[考研] 售SCI一区T0P文章,我:8.O.55.1.O.5.4,科目全,可+急 +3 SX5mJmPWDfOO 2026-11-13 3/150 2026-11-15 07:56 by xSrQNSSjcgoX
[公派出国] 售SCI文章,我:8O5.5.1.O.54,科目齐全,可+急 +3 uKOSCocCb6Fm 2026-11-12 7/350 2026-11-15 03:43 by xSrQNSSjcgoX
[考博] 售SCI文章,我:8O5.5.1.O.54,科目齐全,可+急 +3 uKOSCocCb6Fm 2026-11-12 7/350 2026-11-15 03:32 by xSrQNSSjcgoX
[硕博家园] 售一区SCI文章T0P,我:8O.551.O54,科目全,可十急 +3 uKOSCocCb6Fm 2026-11-12 6/300 2026-11-15 02:59 by xSrQNSSjcgoX
[公派出国] 售一区SCI文章T0P,我:8O.551.O54,科目全,可十急 +3 uKOSCocCb6Fm 2026-11-12 7/350 2026-11-15 02:48 by xSrQNSSjcgoX
[考研] 售SCI一区T0P文章,我:8.O.55.1.O54,科目全,可伽急 +6 FChKX8meu1ds 2026-11-09 9/450 2026-11-14 22:39 by Equinoxhua
[考博] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +4 FChKX8meu1ds 2026-11-09 8/400 2026-11-14 22:04 by Equinoxhua
[考研] 售SCI一区文章,我:8O5.5.1.O5.4,科目全,可伽急 +5 G2rhSvqvhNzl 2026-11-10 7/350 2026-11-14 21:58 by Equinoxhua
[基金申请] 售SCI一区T0P文章,我:8O.55.1.O.54,科目全,可伽急 +6 C6CRn66RYYXS 2026-11-10 7/350 2026-11-13 10:55 by Equinoxhua
[考博] 27博士申请 +5 白白白ly 2026-11-09 5/250 2026-11-13 05:01 by wlf1982
[论文投稿] 售SCI一区T0P文章,我:8.O.55.1.O54,科目全,可伽急 +3 TgvkbZZl9tqB 2026-11-11 4/200 2026-11-12 12:51 by ECLTXnJnRSXf
[考博] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +4 TgvkbZZl9tqB 2026-11-11 6/300 2026-11-12 12:42 by ECLTXnJnRSXf
[硕博家园] 售SCI文章,我:8O.5.5.1O.54,科目全,可十急 +4 czAiolzR0IJC 2026-11-10 8/400 2026-11-12 10:49 by HajghKOMynmz
[教师之家] 售SCI一区T0P文章,我:8.O.55.1.O.5.4,科目全,可+急 +4 G2rhSvqvhNzl 2026-11-10 6/300 2026-11-12 10:38 by HajghKOMynmz
[基金申请] 售SCI一区文章,我:8.O.551.O.5.4,科目全,可伽急 +3 TgvkbZZl9tqB 2026-11-11 5/250 2026-11-12 08:15 by HajghKOMynmz
[教师之家] 售SCI文章,我:8O5.5.1.O.54,科目齐全,可+急 +4 C6CRn66RYYXS 2026-11-10 4/200 2026-11-12 06:03 by 9fOTqj074tIg
[教师之家] 售SCI一区T0P文章,我:8O.55.1.O.5.4,科目齐全,可+急 +5 FChKX8meu1ds 2026-11-09 10/500 2026-11-12 05:19 by 9fOTqj074tIg
[考研] 售SCI一区T0P文章,我:8O.55.1.O.5.4,科目齐全,可+急 +5 cqv1zKnzd7hr 2026-11-09 8/400 2026-11-12 05:08 by 9fOTqj074tIg
信息提示
请填处理意见