24小时热门版块排行榜    

查看: 4742  |  回复: 21

Cavalier2008

铁杆木虫 (正式写手)

[交流] 【求助】请教各位高手,fluent哪个地方可以设置有效数字的位数 已有1人参与

请教各位高手,fluent哪个地方可以设置有效数字的位数,找了帮助文件,也暂时没有发现,我觉得应该有个地方可以设置吧,还请各位高手指点。
回复此楼

» 本帖已获得的红花(最新10朵)

» 猜你喜欢

» 本主题相关价值贴推荐,对您同样有帮助:

Just do it!
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
回帖支持 ( 显示支持度最高的前 50 名 )

jiro

木虫 (小有名气)

★ ★
小木虫(金币+0.5):给个红包,谢谢回帖
xiegangmai(金币+1): 谢谢应助! 2011-08-14 09:10:07
display-colormaps-precision
努力
10楼2011-08-13 22:47:40
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hath

铜虫 (小有名气)


小木虫: 金币+0.5, 给个红包,谢谢回帖
七位的确不够用的,因为有时候模拟的多项式的一些系数是10的6次方的那种,然后实际上物性的数值只有个位的数量级,所以多项式的系数差一丢丢都会影响超大的,我这两天遇到这个问题才来搜索的,看完大家回答之后决定试一试双精度。。。不过我现在已经尽量降低拟合的次数,把系数降到跟物性值只差3、4个数量级。。。但是还是差挺多的。。
15楼2014-07-16 13:17:42
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通回帖

Cavalier2008

铁杆木虫 (正式写手)

自己顶一下~
Just do it!
2楼2010-08-19 14:02:41
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

Cavalier2008

铁杆木虫 (正式写手)

再顶一下~
Just do it!
3楼2010-08-19 17:47:24
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hiqun

禁虫 (正式写手)


Cavalier2008(金币+1):谢谢 2010-08-19 22:22:50
robert2020(金币+1):多谢应助! 2010-08-20 00:28:35
plot--xyplot--选择axis按钮,可设置x,y方向的数值的精度以及数值类型
4楼2010-08-19 19:35:16
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

Cavalier2008

铁杆木虫 (正式写手)

引用回帖:
Originally posted by hiqun at 2010-08-19 19:35:16:
plot--xyplot--选择axis按钮,可设置x,y方向的数值的精度以及数值类型

物性参数里的有效数字最多只能七位,请问物性参数里的有效数字的输入位数在哪里能改呢
Just do it!
5楼2010-08-19 22:21:17
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

sghudng

铜虫 (小有名气)

引用回帖:
Originally posted by Cavalier2008 at 2010-08-19 22:21:17:

物性参数里的有效数字最多只能七位,请问物性参数里的有效数字的输入位数在哪里能改呢

你要那么多位干嘛,模拟的精度未必能到你要求的那么多位
6楼2010-08-20 08:46:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

Cavalier2008

铁杆木虫 (正式写手)

nono2009:对物性计算而言,7位有效数字应该足够了。 2010-08-21 06:28:28
引用回帖:
Originally posted by sghudng at 2010-08-20 08:46:04:

你要那么多位干嘛,模拟的精度未必能到你要求的那么多位

我要用多项式来拟合物性随温度的变化,所以拟合出来的多项式系数小数点位数越多也就越精确,但是fluent默认只能保留7位有效数字,所以我想看看哪里可以改一下有效数字的位数,所以在这里发帖问问各位大侠了~
Just do it!
7楼2010-08-20 10:25:12
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

Cavalier2008

铁杆木虫 (正式写手)

呵呵,各位大侠指点一二啊~
Just do it!
8楼2010-08-20 10:25:42
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hiqun

禁虫 (正式写手)

引用回帖:
Originally posted by Cavalier2008 at 2010-08-20 10:25:12:

我要用多项式来拟合物性随温度的变化,所以拟合出来的多项式系数小数点位数越多也就越精确,但是fluent默认只能保留7位有效数字,所以我想看看哪里可以改一下有效数字的位数,所以在这里发帖问问各位大侠了~

七位有效数字,还不够你用的啊?这个已经够精确了吧?
9楼2010-08-20 10:41:45
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 Cavalier2008 的主题更新
普通表情 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 29号明天会评吗 +4 笨笨唐 2026-08-28 4/200 2026-08-31 09:30 by huixian257
[基金申请] 面上意见出来了 +10 黄鸟于飞Chao 2026-08-29 19/950 2026-08-31 08:01 by blueearth171
[基金申请] 麻烦专家们看看评委们的意见(F口面上) +6 gdd2018 2026-08-28 11/550 2026-08-30 08:58 by 超级无敌华子
[基金申请] 我就是申请一个面上项目而已,这评审意见是按照杰青的条件评的吧? +6 gouxfjh 2026-08-28 11/550 2026-08-30 07:57 by gouxfjh
[基金申请] 国自然评审意见 +13 wangmingqi 2026-08-28 19/950 2026-08-29 10:22 by Poppy1104
[基金申请] 为什么资助数各大高校都创新高,自己申请怎么就这么难 +12 Kittylucky 2026-08-27 13/650 2026-08-29 00:04 by superceng
[基金申请] 基金系统什么内容也没有 30+4 winsaint 2026-08-27 9/450 2026-08-28 11:06 by maolC
[基金申请] 怎么查啊 +6 huang1991js 2026-08-26 6/300 2026-08-28 08:42 by winsaint
[基金申请] 基金未中,这种答复是模板吗? +5 zhaosm1982 2026-08-27 6/300 2026-08-27 16:00 by lfy8008
[基金申请] 看板上这么多中的,有点像50人群里49个人都是骗子的那种感觉…… +5 a089 2026-08-26 6/300 2026-08-27 14:05 by jonewore
[基金申请] 怎么看青基中了没有啊 +5 叶九微 2026-08-26 5/250 2026-08-27 10:35 by l_zh2008
[基金申请] 为什么 国际(地区)合作与交流项目 没有放榜? 10+3 majunge000 2026-08-26 11/550 2026-08-27 08:42 by 北京莱茵编辑
[基金申请] 出来了 +9 trojank 2026-08-26 9/450 2026-08-26 14:25 by 宝贝虫子
[基金申请] 国合里面能看到了 +7 一怀馨秋 2026-08-26 7/350 2026-08-26 11:23 by zhaosm1982
[基金申请] 国际合作可查了,中了面上 (EPI+1)(金币+50) +18 Ldrop2023 2026-08-26 18/900 2026-08-26 11:15 by cmrandy
[基金申请] 系统进不去 +4 yanglien 2026-08-26 5/250 2026-08-26 11:10 by wenfengw83
[基金申请] 国合可查了 +3 paperzjh 2026-08-26 3/150 2026-08-26 10:41 by LemmonTr
[基金申请] 今天务委会开完了,明天出结果吗 +19 angus9576 2026-08-25 23/1150 2026-08-26 10:03 by zp519
[基金申请] 牛来!米来!面来! +8 beefly 2026-08-26 8/400 2026-08-26 08:37 by xuzhipiao
[基金申请] 在坚冰还盖着北海的时候,我看到了怒放的梅花。 (金币+10) +6 ziyangfang 2026-08-25 9/450 2026-08-25 20:26 by huagongfeihu
信息提示
请填处理意见