应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 计算模拟区 » 仿真模拟 » FLUENT & CFX » ANSYS Fluent14.5单双精度问题
81/1返回列表
查看: 5398  |  回复: 7
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看

10032119

银虫 (小有名气)

[求助] ANSYS Fluent14.5单双精度问题 已有1人参与

Fluent的UserGuide中提到对单精度计算，残差可降低6个数量级，而对于双精度则降低12个？这个降低指的是什么呢？是你设定的残差值最低设置10^-6（单精度），或10^-12（对双精度），还是什么意思？求解答

ANSYS Fluent14.5单双精度问题
捕获.JPG
回复此楼

» 猜你喜欢
1楼 2016-06-22 14:53:17
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

mycc

专家顾问 (正式写手)

【答案】应助回帖

★ ★ ★ ★ ★
感谢参与，应助指数 +1
10032119: 金币+5, ★★★很有帮助 2016-06-22 16:54:42
说明双精度计算误差更小，计算结果更加精确
赞一下(1人) 回复此楼
项目汇总：http://www.cfluid.com/forum.php?mod=viewthread&tid=114340&extra=
2楼2016-06-22 15:31:42
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

10032119

银虫 (小有名气)
引用回帖:
2楼: Originally posted by mycc at 2016-06-22 15:31:42
说明双精度计算误差更小，计算结果更加精确

，感谢应答。那双精度的选择对实际对残差（scaled、global）值的底线，比如是10-^8还是10^-12有什么特殊规定吗？
赞一下 回复此楼
3楼2016-06-22 16:54:29
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

mycc

专家顾问 (正式写手)

【答案】应助回帖

没有特殊规定，残差只是考察收敛的一个方面，更重要的是监视自己关心的值，这个值收敛了，才是真正的收敛
赞一下 回复此楼
项目汇总：http://www.cfluid.com/forum.php?mod=viewthread&tid=114340&extra=
4楼2016-06-22 20:47:09
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

10032119

银虫 (小有名气)
引用回帖:
4楼: Originally posted by mycc at 2016-06-22 20:47:09
没有特殊规定，残差只是考察收敛的一个方面，更重要的是监视自己关心的值，这个值收敛了，才是真正的收敛

在ANSYS Fluent Getting Started Guide中的第三章Guide to a Successful Simulation Using ANSYS Fluent中有提到第8条监测解变量从这次迭代到下次迭代的改变是可以忽略的，但是这个具体是怎么做到呢 ?
求赐教
ANSYS Fluent14.5单双精度问题-1
捕获.JPG
赞一下 回复此楼
5楼2016-06-23 14:35:55
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

mycc

专家顾问 (正式写手)

【答案】应助回帖

★ ★ ★ ★ ★
10032119: 金币+5, ★★★很有帮助 2016-06-23 18:47:53
这句话的意思是，监视值不再变化，两次迭代得到值的变化可以忽略不计
赞一下 回复此楼
项目汇总：http://www.cfluid.com/forum.php?mod=viewthread&tid=114340&extra=
6楼2016-06-23 14:43:39
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zhou_ruirui

木虫 (小有名气)
因为双精度的机器误差大概是10^-15，计算中还有舍入误差等，大概能算准到10^-12，单精度的精度是一半，也就是能算准10^-6

发自小木虫Android客户端
赞一下 回复此楼
7楼2016-06-24 18:25:20
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zhou_ruirui

木虫 (小有名气)
在MATLAB中节点数很多的情况下，误差会累积，根据我的计算，可能精度连10^-12都达不到，大概只有10^-10

发自小木虫Android客户端
赞一下(1人) 回复此楼
8楼2016-06-24 18:28:17
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 10032119 的主题更新
81/1返回列表
普通表情 龙 兔 虎 猫
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 大佬帮着分析今年的评审意见？该课题连续申请了三年了，明年要不要换个方向。 100+3 cai-11138 2026-08-31 11/550 2026-09-06 20:49 by archvillain
[文学芳草园] 两块石头 +7 阿美_Lml888 2026-09-03 10/500 2026-09-06 20:08 by 阿美_Lml888
[考博] 售SCI一区T0P文章，我:8O.55.1.O.5.4,科目齐全,可+急 +3 j5mmowWXNWxv 2026-09-05 4/200 2026-09-06 19:21 by eObJPa4gWmp6
[博后之家] 售SCI一区T0P文章，我:8O.55.1.O.54,科目全,可伽急 +3 j5mmowWXNWxv 2026-09-05 6/300 2026-09-06 18:41 by eObJPa4gWmp6
[硕博家园] 售SCI文章，我:8O.5.5.1O.54,科目全,可十急 +4 jPDp0sc2B7zQ 2026-09-05 6/300 2026-09-06 18:21 by eObJPa4gWmp6
[博后之家] 售SCI一区T0P文章，我:8.O55.1.O.54,科目全,可十急 +3 jPDp0sc2B7zQ 2026-09-05 6/300 2026-09-06 18:09 by eObJPa4gWmp6
[教师之家] 售一区SCI文章T0P，我:8O.551.O54,科目全,可十急 +3 jPDp0sc2B7zQ 2026-09-05 9/450 2026-09-06 17:09 by eObJPa4gWmp6
[考研] 售SCI文章，我:8O.5.5.1O.54,科目全,可十急 +3 jPDp0sc2B7zQ 2026-09-04 8/400 2026-09-06 17:09 by eObJPa4gWmp6
[博后之家] 广西大学-广州大学招聘博士后 欢迎广大优秀人才！！！ +5 SCSIOyxguo 2026-09-03 8/400 2026-09-06 15:06 by 可爱小花朵
[基金申请] 售SCI一区T0P文章，我:8.O.55.1.O.5.4,科目全,可+急 +3 j5mmowWXNWxv 2026-09-05 3/150 2026-09-06 12:49 by eObJPa4gWmp6
[考博] 售SCI文章，我:8O5.5.1.O.54,科目齐全,可+急 +3 j5mmowWXNWxv 2026-09-05 4/200 2026-09-06 12:29 by eObJPa4gWmp6
[硕博家园] 售SCI一区T0P文章，我:8.O55.1.O.54,科目全,可十急 +3 jPDp0sc2B7zQ 2026-09-05 7/350 2026-09-06 11:20 by eObJPa4gWmp6
[论文投稿] 售SCI-T0P文章，我:8O.5.5.1.O.54,科目齐全,可+急 +3 jPDp0sc2B7zQ 2026-09-04 8/400 2026-09-06 11:00 by eObJPa4gWmp6
[考研] 售SCI文章，我:8O5.5.1.O.54,科目齐全,可+急 +3 jPDp0sc2B7zQ 2026-09-05 4/200 2026-09-06 07:20 by E1iiBLMU2XnD
[论文投稿] 售SCI一区T0P文章，我:8.O.55.1.O54,科目全,可伽急 +6 7ZYIEW2YWn72 2026-09-04 9/450 2026-09-06 06:00 by E1iiBLMU2XnD
[基金申请] 面上没中，邀请各位路过的虫友分析一下分数 +12 jackleilei 2026-09-03 13/650 2026-09-05 18:10 by fireguard
[文学芳草园] 初秋的晨风 +4 阿美_Lml888 2026-09-04 6/300 2026-09-05 13:51 by 阿美_Lml888
[基金申请] 学科评审组评审是指会评吗？ +6 瞬息宇宙 2026-08-31 9/450 2026-09-05 13:11 by haizai99
[硕博家园] Ei源刊怎么投 +4 Fengshun9711 2026-09-04 4/200 2026-09-04 19:30 by 研途知予
[硕博家园] 哈尔滨工业大学韩晓军教授课题组招收2027年硕士推免生及博士研究生 +3 灯灯灯灯DDDD 2026-09-03 3/150 2026-09-03 21:22 by 科研皮皮猪
信息提示
关闭
请填处理意见
关闭