应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 计算模拟区 » 仿真模拟 » FLUENT & CFX » fluent中如何设置有效数字位数？
51/1返回列表
查看: 2313  |  回复: 4
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看

Byron-H

新虫 (小有名气)

[求助] fluent中如何设置有效数字位数？

各位大侠好，我最近在用fluent计算超临界流体的传热，流体的物性是自己拟合的分段多项式，物性都是温度的单值函数，现在遇到了一个问题，我拟合出来的多项式系数小数点后有效数字有很多位，至少有12位（如果达不到12位，计算精度会差很多，因为温度是几百K，几百的乘方下来会很大）。现在我设置的fluent貌似识别不了12位的有效数字，导致无法正常计算，我想请教大侠们，在哪里能改fluent的有效数字位数的识别啊？


多项式示例：

viscosity = (-1.345039047486250E-12)*pow(T,5) + (1.900062018265790E-09)*pow(T,4) - (1.073660934804470E-06)*pow(T,3) + (3.033521196329650E-04)*pow(T,2) - (4.285769261150980E-02)*T + (2.422466231526680E+00);@wuming524
回复此楼

» 猜你喜欢
1楼 2018-11-21 12:49:46
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

Byron-H

新虫 (小有名气)
没有人遇到类似的问题吗

发自小木虫Android客户端
赞一下 回复此楼
2楼2018-11-21 15:08:52
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

gyctju

金虫 (著名写手)
用双精度求解器

发自小木虫Android客户端
回复此楼
3楼2018-11-21 15:47:33
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

Byron-H

新虫 (小有名气)
引用回帖:
3楼: Originally posted by gyctju at 2018-11-21 15:47:33
用双精度求解器

已经是双精度求解啦，输入多项式的时候，fluent会自动把多项式系数第七位以后的有效数字略去。

发自小木虫Android客户端
赞一下 回复此楼
4楼2018-11-21 18:25:47
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

五UU家京津冀

新虫 (小有名气)
解决了吗？

发自小木虫Android客户端
回复此楼
5楼2021-03-20 20:45:59
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 Byron-H 的主题更新
51/1返回列表
普通表情 龙 兔 虎 猫
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[硕博家园] 售SCI一区T0P文章，我:8.O.55.1.O.5.4,科目全,可+急 +3 6F5UbRU2I5hL 2026-09-14 3/150 2026-09-15 00:25 by mibUvS8DDCwf
[教师之家] 售SCI一区T0P文章，我:8O.55.1.O.54,科目全,可伽急 +3 6F5UbRU2I5hL 2026-09-14 3/150 2026-09-15 00:12 by vZfe6xYu34yj
[考博] 售SCI一区T0P文章，我:8O.55.1.O.5.4,科目齐全,可+急 +4 s3fFTmArrBt6 2026-09-14 5/250 2026-09-14 23:57 by vZfe6xYu34yj
[硕博家园] 售SCI一区T0P文章，我:8.O55.1.O.54,科目全,可十急 +3 s3fFTmArrBt6 2026-09-14 3/150 2026-09-14 23:45 by vZfe6xYu34yj
[教师之家] 售SCI一区文章，我:8.O.551.O.5.4,科目全,可伽急 +3 s3fFTmArrBt6 2026-09-13 3/150 2026-09-14 23:21 by vZfe6xYu34yj
[教师之家] 售SCI一区文章，我:8.O.55.1.O.54,科目齐全,可伽急 +3 s3fFTmArrBt6 2026-09-13 3/150 2026-09-14 23:09 by vZfe6xYu34yj
[硕博家园] 售SCI一区文章，我:8O5.5.1.O5.4,科目全,可伽急 +3 s3fFTmArrBt6 2026-09-13 5/250 2026-09-14 22:45 by vZfe6xYu34yj
[考研] 售SCI一区T0P文章，我:8.O.55.1.O.5.4,科目全,可+急 +3 LwdutQ8HoqWP 2026-09-13 3/150 2026-09-14 22:33 by vZfe6xYu34yj
[考研] 售SCI文章，我:8O5.5.1.O.54,科目齐全,可+急 +5 LwdutQ8HoqWP 2026-09-13 5/250 2026-09-14 22:25 by vZfe6xYu34yj
[找工作] 售SCI一区文章，我:8O5.5.1.O5.4,科目全,可伽急 +5 3n8v2C8RimXI 2026-09-13 5/250 2026-09-14 22:13 by vZfe6xYu34yj
[考研] 售SCI一区T0P文章，我:8.O.55.1.O54,科目全,可伽急 +4 3n8v2C8RimXI 2026-09-13 5/250 2026-09-14 22:00 by vZfe6xYu34yj
[博后之家] 售SCI一区T0P文章，我:8.O.55.1.O.5.4,科目全,可+急 +4 QUjhNVAcOSff 2026-09-13 4/200 2026-09-14 21:37 by vZfe6xYu34yj
[考博] 售SCI文章，我:8O5.5.1.O.54,科目齐全,可+急 +5 QUjhNVAcOSff 2026-09-13 5/250 2026-09-14 21:36 by vZfe6xYu34yj
[找工作] 售SCI一区T0P文章，我:8.O.55.1.O.5.4,科目全,可+急 +3 QUjhNVAcOSff 2026-09-13 5/250 2026-09-14 21:25 by vZfe6xYu34yj
[考研] 售SCI一区T0P文章，我:8.O.55.1.O54,科目全,可伽急 +3 s3fFTmArrBt6 2026-09-14 3/150 2026-09-14 18:01 by Aj1rhIDL5ixY
[教师之家] 售SCI一区文章，我:8.O.55.1.O.54,科目齐全,可伽急 +3 LwdutQ8HoqWP 2026-09-13 4/200 2026-09-14 16:13 by Aj1rhIDL5ixY
[考博] 售SCI文章，我:8O.5.5.1O.54,科目全,可十急 +4 3n8v2C8RimXI 2026-09-13 4/200 2026-09-14 15:37 by Aj1rhIDL5ixY
[找工作] 售SCI一区T0P文章，我:8.O.55.1.O.5.4,科目全,可+急 +5 QUjhNVAcOSff 2026-09-13 6/300 2026-09-14 15:21 by Aj1rhIDL5ixY
[考博] 西北工业大学材料学院电化学传感与催化课题组招收2027年推免研究生、博士生、博士后 +3 马方园 2026-09-10 4/200 2026-09-14 09:29 by Chem张zz
[教师之家] 浙江师范大学是怎么坑我的 +10 recruit123 2026-09-09 15/750 2026-09-13 10:45 by seaskyy
信息提示
关闭
请填处理意见
关闭