| 查看: 2373 | 回复: 4 | ||
[求助]
fluent中如何设置有效数字位数？
|
|
各位大侠好，我最近在用fluent计算超临界流体的传热，流体的物性是自己拟合的分段多项式，物性都是温度的单值函数，现在遇到了一个问题，我拟合出来的多项式系数小数点后有效数字有很多位，至少有12位（如果达不到12位，计算精度会差很多，因为温度是几百K，几百的乘方下来会很大）。现在我设置的fluent貌似识别不了12位的有效数字，导致无法正常计算，我想请教大侠们，在哪里能改fluent的有效数字位数的识别啊？ 多项式示例： viscosity = (-1.345039047486250E-12)*pow(T,5) + (1.900062018265790E-09)*pow(T,4) - (1.073660934804470E-06)*pow(T,3) + (3.033521196329650E-04)*pow(T,2) - (4.285769261150980E-02)*T + (2.422466231526680E+00);@wuming524 |
回复此楼» 猜你喜欢
各位基础老师们，看完中央《从严治党》的决定后，对学术界更加有信心了吧
已经有3人回复
-
售SCI一区T0P文章，我:8O.55.1.O.5.4,科目齐全,可+急
已经有5人回复
-
售SCI一区T0P文章，我:8.O55.1.O.54,科目全,可十急
已经有6人回复
-
售一区SCI文章T0P，我:8O.551.O54,科目全,可十急
已经有7人回复
-
售SCI一区T0P文章，我:8.O.55.1.O54,科目全,可伽急
已经有6人回复
-
售SCI一区文章，我:8.O.551.O.5.4,科目全,可伽急
已经有10人回复
-
售SCI一区文章，我:8.O.55.1.O.54,科目齐全,可伽急
已经有9人回复
-
售SCI一区T0P文章，我:8.O55.1.O.54,科目全,可十急
已经有8人回复
-
售SCI文章，我:8O5.5.1.O.54,科目齐全,可+急
已经有8人回复
-
售SCI一区文章，我:8.O.55.1.O.54,科目齐全,可伽急
已经有5人回复
2楼2018-11-21 15:08:52
3楼2018-11-21 15:47:33
4楼2018-11-21 18:25:47
5楼2021-03-20 20:45:59
50