应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 计算模拟区 » 仿真模拟 » FLUENT & CFX » 【求助】请教各位高手，fluent哪个地方可以设置有效数字的位数
222/3返回列表上一页123下一页
查看: 4627  |  回复: 21
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看

47425804

木虫 (正式写手)
★ ★
小木虫(金币+0.5):给个红包，谢谢回帖
臭水沟(金币+1): 谢谢应助~~ 2011-08-15 11:19:34
是用的双精度求解器么？可能和这个有关吧，还真没研究过这种东西。
但是这种想法确实有点钻牛角尖了，你想拟合的物性数据本来就是通过实验测出来的，误差有多大那是很明显的了，拟合关系式弄那么多有效位数没有意义。
赞一下(2人) 回复此楼
11楼2011-08-15 08:42:56
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

jiro

木虫 (小有名气)
★
小木虫(金币+0.5):给个红包，谢谢回帖
我就遇到过这种情况，如果不弄多些有效位数，云图神马都是一个颜色
赞一下(1人) 回复此楼
努力
12楼2011-08-28 14:26:51
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

mayo_0

铜虫 (小有名气)
★ ★
小木虫(金币+0.5):给个红包，谢谢回帖
臭水沟(金币+1): 谢谢交流~~ 2011-08-28 17:59:37
引用回帖:
12楼: Originally posted by jiro at 2011-08-28 14:26:51:
我就遇到过这种情况，如果不弄多些有效位数，云图神马都是一个颜色

楼主问得问题，你都没看明白。

有效数位7位还不够你用的？即使你用温度或者其他函数描述，你输入的系数7位有效数字还不够你用？请楼主分析一下7个有效数字之后的数字对你物性的相对误差是多少。不要钻牛角尖了！

[ Last edited by mayo_0 on 2011-8-28 at 14:54 ]
赞一下(2人) 回复此楼
精通各种CFD项目（电磁、多相、燃烧等）。QQ85596847。
13楼2011-08-28 14:52:23
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

030301029

捐助贵宾 (正式写手)
★
小木虫: 金币+0.5, 给个红包，谢谢回帖
是否是说单精度和双精度？
赞一下 回复此楼
14楼2012-04-29 23:03:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hath

铜虫 (小有名气)
★
小木虫: 金币+0.5, 给个红包，谢谢回帖
七位的确不够用的，因为有时候模拟的多项式的一些系数是10的6次方的那种，然后实际上物性的数值只有个位的数量级，所以多项式的系数差一丢丢都会影响超大的，我这两天遇到这个问题才来搜索的，看完大家回答之后决定试一试双精度。。。不过我现在已经尽量降低拟合的次数，把系数降到跟物性值只差3、4个数量级。。。但是还是差挺多的。。
赞一下(1人) 回复此楼
15楼2014-07-16 13:17:42
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

艾小丫

银虫 (正式写手)
★
小木虫: 金币+0.5, 给个红包，谢谢回帖
引用回帖:
15楼: Originally posted by hath at 2014-07-16 13:17:42
七位的确不够用的，因为有时候模拟的多项式的一些系数是10的6次方的那种，然后实际上物性的数值只有个位的数量级，所以多项式的系数差一丢丢都会影响超大的，我这两天遇到这个问题才来搜索的，看完大家回答之后决定 ...

同意，遇到类似问题，有没有解决了？
赞一下 回复此楼
2023年大有所为
16楼2015-09-02 17:31:26
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

残阳天勤

新虫 (初入文坛)
★
小木虫: 金币+0.5, 给个红包，谢谢回帖
送红花一朵
这个问题怎么解决？

发自小木虫Android客户端
赞一下 回复此楼
17楼2016-01-17 10:20:56
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

745926383

新虫 (初入文坛)
★
小木虫: 金币+0.5, 给个红包，谢谢回帖
求解决方案，我的是10的-7次方，也是这种问题
赞一下 回复此楼
18楼2018-07-16 16:32:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

Byron-H

新虫 (小有名气)
★
小木虫: 金币+0.5, 给个红包，谢谢回帖
引用回帖:
16楼: Originally posted by 艾小丫 at 2015-09-02 17:31:26
同意，遇到类似问题，有没有解决了？...

请问您的问题解决了吗
赞一下 回复此楼
19楼2018-11-21 12:14:36
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

Byron-H

新虫 (小有名气)
引用回帖:
18楼: Originally posted by 745926383 at 2018-07-16 16:32:04
求解决方案，我的是10的-7次方，也是这种问题

您的问题解决了吗
赞一下 回复此楼
20楼2018-11-21 12:14:50
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 Cavalier2008 的主题更新
222/3返回列表上一页123下一页
普通表情 龙 兔 虎 猫 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[有机交流] 一个有机合成实验室都需要哪些设备？ 50+3 kf2781974 2026-07-31 9/450 2026-08-04 03:56 by kf2781974
[教师之家] 售SCI一区文章，我:8O5.5.1.O5.4,科目全,可伽急 +3 jRl3mE6ddZGq 2026-08-03 7/350 2026-08-04 03:35 by k7OM8YghWbkC
[论文投稿] 售SCI一区T0P文章，我:8.O.55.1.O.5.4,科目全,可+急 +3 jRl3mE6ddZGq 2026-08-03 6/300 2026-08-04 03:34 by k7OM8YghWbkC
[硕博家园] 售SCI一区T0P文章，我:8.O.55.1.O.54,科目齐全,可+急 +3 jRl3mE6ddZGq 2026-08-03 5/250 2026-08-04 03:30 by k7OM8YghWbkC
[博后之家] 售SCI一区文章，我:8O5.5.1.O5.4,科目全,可伽急 +3 cu9Nq1xK233Z 2026-08-03 7/350 2026-08-04 03:27 by k7OM8YghWbkC
[考博] 售SCI一区T0P文章，我:8.O55.1.O.54,科目全,可十急 +3 cu9Nq1xK233Z 2026-08-03 4/200 2026-08-04 03:25 by k7OM8YghWbkC
[考研] 售SCI一区文章，我:8.O.55.1.O.54,科目齐全,可伽急 +3 cu9Nq1xK233Z 2026-08-03 8/400 2026-08-04 03:21 by k7OM8YghWbkC
[硕博家园] 售SCI一区T0P文章，我:8.O.55.1.O.54,科目齐全,可+急 +4 cu9Nq1xK233Z 2026-08-03 12/600 2026-08-04 03:17 by k7OM8YghWbkC
[教师之家] 售SCI一区文章，我:8.O.551.O.5.4,科目全,可伽急 +3 cu9Nq1xK233Z 2026-08-03 7/350 2026-08-04 02:10 by Ocx3OKOzGU4q
[基金申请] 什么时候能放榜呀？ +3 Jacob678 2026-08-03 3/150 2026-08-03 16:14 by gltch
[高分子] UV压敏胶开发 +3 ichall 2026-07-30 5/250 2026-08-03 14:40 by Sunrisepay
[基金申请] 面上提前没消息，有中的吗 +14 archvillain 2026-08-02 16/800 2026-08-03 12:23 by fuweiguochen
[基金申请] 面上再次挂了，太难了，躺也躺不了，倦也卷不过，小学校之殇！ +19 低垂的野花 2026-07-31 25/1250 2026-08-03 09:25 by gy116024
[基金申请] 2026年国自然面上资助率 +16 布布和一二 2026-07-30 22/1100 2026-08-03 09:20 by gy116024
[教师之家] 基础研究怎么拉横向，学校到款任务越来越多，难以完成 拉横向，都有哪些途径啊 +8 锦衣卫寒战 2026-07-28 12/600 2026-08-03 08:22 by syl200707
[基金申请] 微信指数没变化，科研之友没阅读 +15 wangze12014 2026-07-28 19/950 2026-08-02 20:05 by 蔡棒棒菂
[考博] 2027年申博 50+3 射雕英雄胜 2026-07-30 3/150 2026-08-02 09:36 by lfy8008
[高分子] HXDI做水性聚氨酯乳液，是不是特别容易出渣 15+3 yuyusuv 2026-07-29 3/150 2026-07-31 09:21 by huizingga
[基金申请] 系统今天又提示维护了，估计离放榜不远了 +11 winnerche 2026-07-29 15/750 2026-07-30 23:08 by jnhyjjm
[基金申请] 你们的时间戳变了吗 +3 archvillain 2026-07-30 4/200 2026-07-30 18:53 by levinzhwen
信息提示
关闭
请填处理意见
关闭