应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 计算模拟区 » 仿真模拟 » FLUENT & CFX » 【求助】请教各位高手，fluent哪个地方可以设置有效数字的位数
221/3返回列表123下一页
查看: 4889  |  回复: 21
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看

Cavalier2008

铁杆木虫 (正式写手)

[交流] 【求助】请教各位高手，fluent哪个地方可以设置有效数字的位数 已有1人参与

请教各位高手，fluent哪个地方可以设置有效数字的位数，找了帮助文件，也暂时没有发现，我觉得应该有个地方可以设置吧，还请各位高手指点。
回复此楼

» 本帖已获得的红花（最新10朵）

残阳天勤

» 猜你喜欢

» 本主题相关价值贴推荐，对您同样有帮助:
Just do it!
1楼 2010-08-19 14:02:18
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
回帖支持 ( 显示支持度最高的前 50 名 )

jiro

木虫 (小有名气)
★ ★
小木虫(金币+0.5):给个红包，谢谢回帖
xiegangmai(金币+1): 谢谢应助！ 2011-08-14 09:10:07
display-colormaps-precision
赞一下(3人) 回复此楼
努力
10楼2011-08-13 22:47:40
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hath

铜虫 (小有名气)
★
小木虫: 金币+0.5, 给个红包，谢谢回帖
七位的确不够用的，因为有时候模拟的多项式的一些系数是10的6次方的那种，然后实际上物性的数值只有个位的数量级，所以多项式的系数差一丢丢都会影响超大的，我这两天遇到这个问题才来搜索的，看完大家回答之后决定试一试双精度。。。不过我现在已经尽量降低拟合的次数，把系数降到跟物性值只差3、4个数量级。。。但是还是差挺多的。。
赞一下(1人) 回复此楼
15楼2014-07-16 13:17:42
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通回帖

Cavalier2008

铁杆木虫 (正式写手)
自己顶一下~
回复此楼
Just do it!
2楼2010-08-19 14:02:41
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

Cavalier2008

铁杆木虫 (正式写手)
再顶一下～
回复此楼
Just do it!
3楼2010-08-19 17:47:24
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hiqun

禁虫 (正式写手)
★
Cavalier2008(金币+1):谢谢 2010-08-19 22:22:50
robert2020(金币+1):多谢应助！ 2010-08-20 00:28:35
plot--xyplot--选择axis按钮，可设置x，y方向的数值的精度以及数值类型
赞一下(1人) 回复此楼
4楼2010-08-19 19:35:16
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

Cavalier2008

铁杆木虫 (正式写手)
引用回帖:
Originally posted by hiqun at 2010-08-19 19:35:16:
plot--xyplot--选择axis按钮，可设置x，y方向的数值的精度以及数值类型

物性参数里的有效数字最多只能七位，请问物性参数里的有效数字的输入位数在哪里能改呢
赞一下 回复此楼
Just do it!
5楼2010-08-19 22:21:17
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

sghudng

铜虫 (小有名气)
引用回帖:
Originally posted by Cavalier2008 at 2010-08-19 22:21:17:

物性参数里的有效数字最多只能七位，请问物性参数里的有效数字的输入位数在哪里能改呢

你要那么多位干嘛，模拟的精度未必能到你要求的那么多位
赞一下 回复此楼
6楼2010-08-20 08:46:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

Cavalier2008

铁杆木虫 (正式写手)
nono2009:对物性计算而言，7位有效数字应该足够了。 2010-08-21 06:28:28
引用回帖:
Originally posted by sghudng at 2010-08-20 08:46:04:

你要那么多位干嘛，模拟的精度未必能到你要求的那么多位

我要用多项式来拟合物性随温度的变化，所以拟合出来的多项式系数小数点位数越多也就越精确，但是fluent默认只能保留7位有效数字，所以我想看看哪里可以改一下有效数字的位数，所以在这里发帖问问各位大侠了～
赞一下(1人) 回复此楼
Just do it!
7楼2010-08-20 10:25:12
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

Cavalier2008

铁杆木虫 (正式写手)
呵呵，各位大侠指点一二啊~
赞一下 回复此楼
Just do it!
8楼2010-08-20 10:25:42
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hiqun

禁虫 (正式写手)
引用回帖:
Originally posted by Cavalier2008 at 2010-08-20 10:25:12:

我要用多项式来拟合物性随温度的变化，所以拟合出来的多项式系数小数点位数越多也就越精确，但是fluent默认只能保留7位有效数字，所以我想看看哪里可以改一下有效数字的位数，所以在这里发帖问问各位大侠了～

七位有效数字，还不够你用的啊？这个已经够精确了吧？
赞一下 回复此楼
9楼2010-08-20 10:41:45
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 Cavalier2008 的主题更新
221/3返回列表123下一页
普通表情 龙 兔 虎 猫 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[职场人生] 40+中年人失业后，还能找到好工作吗？ +11 xqy2009 2026-10-13 13/650 2026-10-15 21:32 by bear2007
[有机交流] 用NBS溴化时溶剂除了CCl4外还有什么 +3 18834002860 2026-10-12 6/300 2026-10-15 14:30 by 长沙摩尔信息科�
[基金申请] 申请科研项目纯靠实力能成功吗？ 200+7 David1982 2026-10-13 11/550 2026-10-15 10:30 by zyqchem
[硕博家园] 极限拉扯，如何抉择 +11 Isak0320 2026-10-12 15/750 2026-10-14 21:55 by 猫鱼不是鱼
[论文投稿] 二审4个多月了还是Awaiting Reviewer Scores 10+3 纳斯达克ML 2026-10-11 4/200 2026-10-14 17:30 by babero
[有机交流] OpenAI又攻克数学难题了，离AI做有机合成还有多远？ +8 wangyl_123 2026-10-10 13/650 2026-10-14 15:12 by zuesli
[公派出国] 售一区SCI文章T0P，我:8O.551.O54,科目全,可十急 +5 qR2AdCWTVtkw 2026-10-09 9/450 2026-10-11 22:34 by XQNyDCa1Tk5n
[找工作] 售SCI一区T0P文章，我:8.O55.1.O.54,科目全,可十急 +5 qR2AdCWTVtkw 2026-10-09 8/400 2026-10-11 22:26 by XQNyDCa1Tk5n
[公派出国] 售SCI一区文章，我:8O5.5.1.O5.4,科目全,可伽急 +5 qR2AdCWTVtkw 2026-10-09 10/500 2026-10-11 22:26 by XQNyDCa1Tk5n
[考博] 售SCI一区T0P文章，我:8.O55.1.O.54,科目全,可十急 +5 qR2AdCWTVtkw 2026-10-09 9/450 2026-10-11 22:15 by XQNyDCa1Tk5n
[考博] 售SCI一区文章，我:8.O.55.1.O.54,科目齐全,可伽急 +3 qR2AdCWTVtkw 2026-10-09 7/350 2026-10-11 22:11 by XQNyDCa1Tk5n
[教师之家] 售SCI文章，我:8O5.5.1.O.54,科目齐全,可+急 (EPI+-1)(金币-50) +5 qR2AdCWTVtkw 2026-10-09 10/500 2026-10-11 22:06 by XQNyDCa1Tk5n
[教师之家] 售SCI一区T0P文章，我:8.O.55.1.O.5.4,科目全,可+急 (EPI+-1)(金币-50) +5 qR2AdCWTVtkw 2026-10-09 10/500 2026-10-11 14:25 by VOMexwnDzOFZ
[教师之家] 售SCI文章，我:8O.5.5.1O.54,科目全,可十急 (EPI+-1)(金币-50) +4 qR2AdCWTVtkw 2026-10-09 7/350 2026-10-11 14:05 by VOMexwnDzOFZ
[考研] 售SCI文章，我:8O.5.5.1O.54,科目全,可十急 +5 qR2AdCWTVtkw 2026-10-09 8/400 2026-10-11 13:51 by VOMexwnDzOFZ
[硕博家园] 售SCI-T0P文章，我:8O.5.5.1.O.54,科目齐全,可+急 +5 qR2AdCWTVtkw 2026-10-09 8/400 2026-10-11 13:45 by VOMexwnDzOFZ
[找工作] 售SCI一区T0P文章，我:8O.55.1.O.5.4,科目齐全,可+急 +3 qR2AdCWTVtkw 2026-10-09 7/350 2026-10-11 10:54 by VOMexwnDzOFZ
[找工作] 售SCI一区T0P文章，我:8O.55.1.O.5.4,科目齐全,可+急 +4 qR2AdCWTVtkw 2026-10-09 7/350 2026-10-11 10:34 by VOMexwnDzOFZ
[考博] 招收博士生一名 +3 mandolin 2026-10-10 3/150 2026-10-11 10:21 by 不是山谷！
[公派出国] 售SCI一区T0P文章，我:8O.55.1.O.54,科目全,可伽急 +4 qR2AdCWTVtkw 2026-10-09 4/200 2026-10-11 03:14 by M0zrYVSAnxpE
信息提示
关闭
请填处理意见
关闭