应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 计算模拟区 » 仿真模拟 » FLUENT & CFX » ANSYS Fluent14.5单双精度问题
51/1返回列表
查看: 5091  |  回复: 7
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看
当前只显示满足指定条件的回帖，点击这里查看本话题的所有回帖

10032119

银虫 (小有名气)

[求助] ANSYS Fluent14.5单双精度问题 已有1人参与

Fluent的UserGuide中提到对单精度计算，残差可降低6个数量级，而对于双精度则降低12个？这个降低指的是什么呢？是你设定的残差值最低设置10^-6（单精度），或10^-12（对双精度），还是什么意思？求解答

ANSYS Fluent14.5单双精度问题
捕获.JPG
回复此楼

» 猜你喜欢
1楼 2016-06-22 14:53:17
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zhou_ruirui

木虫 (小有名气)
因为双精度的机器误差大概是10^-15，计算中还有舍入误差等，大概能算准到10^-12，单精度的精度是一半，也就是能算准10^-6

发自小木虫Android客户端
赞一下 回复此楼
7楼2016-06-24 18:25:20
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 8 个回答

mycc

专家顾问 (正式写手)

【答案】应助回帖

★ ★ ★ ★ ★
感谢参与，应助指数 +1
10032119: 金币+5, ★★★很有帮助 2016-06-22 16:54:42
说明双精度计算误差更小，计算结果更加精确
赞一下(1人) 回复此楼
项目汇总：http://www.cfluid.com/forum.php?mod=viewthread&tid=114340&extra=
2楼2016-06-22 15:31:42
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

10032119

银虫 (小有名气)
引用回帖:
2楼: Originally posted by mycc at 2016-06-22 15:31:42
说明双精度计算误差更小，计算结果更加精确

，感谢应答。那双精度的选择对实际对残差（scaled、global）值的底线，比如是10-^8还是10^-12有什么特殊规定吗？
赞一下 回复此楼
3楼2016-06-22 16:54:29
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

mycc

专家顾问 (正式写手)

【答案】应助回帖

没有特殊规定，残差只是考察收敛的一个方面，更重要的是监视自己关心的值，这个值收敛了，才是真正的收敛
赞一下 回复此楼
项目汇总：http://www.cfluid.com/forum.php?mod=viewthread&tid=114340&extra=
4楼2016-06-22 20:47:09
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 8 个回答
普通表情 龙 兔 虎 猫
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[公派出国] 售SCI一区文章，我:8 O5 51O 54,科目齐全 +3 5lbyq5wrhb 2026-02-07 4/200 2026-02-08 08:47 by vs90ilomwc
[考博] 售SCI一区文章，我:8 O5 51O 54,科目齐全 +3 5lbyq5wrhb 2026-02-07 4/200 2026-02-08 08:46 by vs90ilomwc
[论文投稿] 售SCI一区文章，我:8 O5 51O 54,科目齐全 +3 3rkserf6qr 2026-02-07 5/250 2026-02-08 08:32 by vs90ilomwc
[硕博家园] 售SCI一区文章，我:8 O5 51O 54,科目齐全 +3 3rkserf6qr 2026-02-07 4/200 2026-02-08 08:27 by vs90ilomwc
[硕博家园] 售SCI一区文章，我:8 O5 51O 54,科目齐全 +4 2h7du0nuhk 2026-02-07 6/300 2026-02-08 08:07 by vs90ilomwc
[考博] 售SCI一区文章，我:8 O5 51O 54,科目齐全 +4 2h7du0nuhk 2026-02-07 7/350 2026-02-08 08:06 by vs90ilomwc
[教师之家] 售SCI一区文章，我:8 O5 51O 54,科目齐全 +4 2h7du0nuhk 2026-02-07 7/350 2026-02-08 07:52 by vs90ilomwc
[找工作] 售SCI一区文章，我:8 O5 51O 54,科目齐全 +4 2h7du0nuhk 2026-02-07 7/350 2026-02-08 07:46 by vs90ilomwc
[公派出国] 售SCI一区文章，我:8 O5 51O 54,科目齐全 +4 2h7du0nuhk 2026-02-07 8/400 2026-02-08 07:32 by vs90ilomwc
[考博] 售SCI一区文章，我:8 O5 51O 54,科目齐全 +4 2h7du0nuhk 2026-02-07 8/400 2026-02-08 07:27 by vs90ilomwc
[教师之家] 售SCI一区文章，我:8 O5 51O 54,科目齐全 +4 2h7du0nuhk 2026-02-07 8/400 2026-02-08 07:26 by vs90ilomwc
[硕博家园] 售SCI一区文章，我:8 O5 51O 54,科目齐全 +4 2h7du0nuhk 2026-02-07 8/400 2026-02-08 07:07 by vs90ilomwc
[硕博家园] 博士延得我，科研能力直往上蹿 +8 偏振片 2026-02-02 8/400 2026-02-08 06:52 by liyeqik
[教师之家] 有院领导为了换新车，用横向课题经费买了俩车 +7 瞬息宇宙 2026-02-04 7/350 2026-02-07 21:47 by tfang
[有机交流] 酰胺脱乙酰基 10+5 chibby 2026-02-03 12/600 2026-02-07 19:29 by 江东闲人
[基金申请] 有时候真觉得大城市人没有县城人甚至个体户幸福 +9 苏东坡二世 2026-02-04 10/500 2026-02-07 12:37 by 小毛球
[考博] 天津大学招2026.09的博士生，欢迎大家推荐交流（博导是本人） +4 a793625982 2026-02-05 5/250 2026-02-07 10:57 by a793625982
[公派出国] CSC & MSCA 博洛尼亚大学能源材料课题组博士/博士后招生｜MSCA经费充足、排名优 +4 雨念 2026-02-01 6/300 2026-02-06 23:32 by MelissaPon
[基金申请] 面上项目申报 +3 Tide man 2026-02-01 3/150 2026-02-05 22:56 by god_tian
[教师之家] 遇见不省心的家人很难过 +18 otani 2026-02-03 22/1100 2026-02-04 11:06 by tangmnt
信息提示
关闭
请填处理意见
关闭