24小时热门版块排行榜    

北京石油化工学院2026年研究生招生接收调剂公告
查看: 5152  |  回复: 7

10032119

银虫 (小有名气)

[求助] ANSYS Fluent14.5单双精度问题 已有1人参与

Fluent的UserGuide中提到对单精度计算,残差可降低6个数量级,而对于双精度则降低12个?这个降低指的是什么呢?是你设定的残差值最低设置10^-6(单精度),或10^-12(对双精度),还是什么意思?求解答

ANSYS Fluent14.5单双精度问题
捕获.JPG
回复此楼

» 猜你喜欢

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

mycc

专家顾问 (正式写手)

【答案】应助回帖

★ ★ ★ ★ ★
感谢参与,应助指数 +1
10032119: 金币+5, ★★★很有帮助 2016-06-22 16:54:42
说明双精度计算误差更小,计算结果更加精确
项目汇总:http://www.cfluid.com/forum.php?mod=viewthread&tid=114340&extra=
2楼2016-06-22 15:31:42
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

10032119

银虫 (小有名气)

引用回帖:
2楼: Originally posted by mycc at 2016-06-22 15:31:42
说明双精度计算误差更小,计算结果更加精确

,感谢应答。那双精度的选择对实际对残差(scaled、global)值的底线,比如是10-^8还是10^-12有什么特殊规定吗?
3楼2016-06-22 16:54:29
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

mycc

专家顾问 (正式写手)

【答案】应助回帖

没有特殊规定,残差只是考察收敛的一个方面,更重要的是监视自己关心的值,这个值收敛了,才是真正的收敛
项目汇总:http://www.cfluid.com/forum.php?mod=viewthread&tid=114340&extra=
4楼2016-06-22 20:47:09
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

10032119

银虫 (小有名气)

引用回帖:
4楼: Originally posted by mycc at 2016-06-22 20:47:09
没有特殊规定,残差只是考察收敛的一个方面,更重要的是监视自己关心的值,这个值收敛了,才是真正的收敛

在ANSYS Fluent Getting Started Guide中的第三章Guide to a Successful Simulation Using ANSYS Fluent中有提到第8条监测解变量从这次迭代到下次迭代的改变是可以忽略的,但是这个具体是怎么做到呢 ?
求赐教
ANSYS Fluent14.5单双精度问题-1
捕获.JPG

5楼2016-06-23 14:35:55
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

mycc

专家顾问 (正式写手)

【答案】应助回帖

★ ★ ★ ★ ★
10032119: 金币+5, ★★★很有帮助 2016-06-23 18:47:53
这句话的意思是,监视值不再变化,两次迭代得到值的变化可以忽略不计
项目汇总:http://www.cfluid.com/forum.php?mod=viewthread&tid=114340&extra=
6楼2016-06-23 14:43:39
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zhou_ruirui

木虫 (小有名气)

因为双精度的机器误差大概是10^-15,计算中还有舍入误差等,大概能算准到10^-12,单精度的精度是一半,也就是能算准10^-6

发自小木虫Android客户端
7楼2016-06-24 18:25:20
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zhou_ruirui

木虫 (小有名气)

在MATLAB中节点数很多的情况下,误差会累积,根据我的计算,可能精度连10^-12都达不到,大概只有10^-10

发自小木虫Android客户端
8楼2016-06-24 18:28:17
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 10032119 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 一志愿陕西师范大学生物学317分 +4 1563日。 2026-04-02 4/200 2026-04-02 22:46 by liveagain126
[考研] 一志愿a区211,085601-307分求调剂 +11 党嘉豪 2026-03-31 24/1200 2026-04-02 21:54 by yuq
[考研] 336求调剂 +6 kiyy 2026-04-01 6/300 2026-04-02 15:51 by Jaylen.
[考研] 282求调剂 +13 呼吸都是减肥 2026-04-01 13/650 2026-04-02 14:10 by baoball
[考研] 一志愿北交大材料工程总分358 +3 cs0106 2026-04-02 5/250 2026-04-02 11:37 by olim
[考研] 085600,材料与化工321分,求调剂 +13 大馋小子 2026-03-27 13/650 2026-04-02 10:48 by sanrepian
[考研] 298求调剂 +4 什么是胖头鱼 2026-03-30 6/300 2026-04-01 22:06 by 客尔美德
[考研] 290求调剂 +5 dfffsar 2026-03-29 5/250 2026-04-01 19:45 by 6781022
[考研] 262求调剂 +9 励志一定发文章 2026-03-31 10/500 2026-04-01 12:22 by sunshine0013
[考研] 求调剂,一志愿北林食品与营养095500,301分,已过六级,有科研经历 +4 快乐储蓄罐 2026-03-31 4/200 2026-04-01 09:26 by JourneyLucky
[考研] 一志愿华东师范大学有机化学专业,初试351分,复试被刷求调剂! +9 真名有冰 2026-03-29 10/500 2026-03-31 18:01 by xhai2011
[考研] 085601 329分调剂 +6 yzsa12 2026-03-31 6/300 2026-03-31 15:23 by yanflower7133
[考研] 286求调剂 +6 Faune 2026-03-30 6/300 2026-03-31 14:37 by jp9609
[考研] 081200-11408-276学硕求调剂 +4 崔wj 2026-03-31 4/200 2026-03-31 11:56 by jp9609
[考研] 085601一志愿西北工业大学初试346 +4 085601初试346 2026-03-30 4/200 2026-03-31 07:47 by jp9609
[考研] 抱歉 +3 田洪有 2026-03-30 3/150 2026-03-30 19:11 by 迷糊CCPs
[考研] 348求调剂 +6 小懒虫不懒了 2026-03-28 6/300 2026-03-30 10:29 by Evan_Liu
[考研] 求调剂 +7 争取九点睡 2026-03-28 8/400 2026-03-28 21:07 by 争取九点睡
[考研] 308求调剂 +7 墨墨漠 2026-03-27 7/350 2026-03-28 07:43 by 热情沙漠
[考研] 一志愿上海理工能源动力(085800)310分求调剂 +3 zhangmingc 2026-03-27 4/200 2026-03-27 19:01 by 给你你注意休息
信息提示
请填处理意见