应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

Znn3bq.jpeg
小木虫论坛-学术科研互动平台 » 计算模拟区 » 仿真模拟 » FLUENT & CFX » 【求助】请教各位高手，fluent哪个地方可以设置有效数字的位数
222/3返回列表上一页123下一页
查看: 4328  |  回复: 21
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看

47425804

木虫 (正式写手)
★ ★
小木虫(金币+0.5):给个红包，谢谢回帖
臭水沟(金币+1): 谢谢应助~~ 2011-08-15 11:19:34
是用的双精度求解器么？可能和这个有关吧，还真没研究过这种东西。
但是这种想法确实有点钻牛角尖了，你想拟合的物性数据本来就是通过实验测出来的，误差有多大那是很明显的了，拟合关系式弄那么多有效位数没有意义。
赞一下(2人) 回复此楼
11楼2011-08-15 08:42:56
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

jiro

木虫 (小有名气)
★
小木虫(金币+0.5):给个红包，谢谢回帖
我就遇到过这种情况，如果不弄多些有效位数，云图神马都是一个颜色
赞一下(1人) 回复此楼
努力
12楼2011-08-28 14:26:51
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

mayo_0

铜虫 (小有名气)
★ ★
小木虫(金币+0.5):给个红包，谢谢回帖
臭水沟(金币+1): 谢谢交流~~ 2011-08-28 17:59:37
引用回帖:
12楼: Originally posted by jiro at 2011-08-28 14:26:51:
我就遇到过这种情况，如果不弄多些有效位数，云图神马都是一个颜色

楼主问得问题，你都没看明白。

有效数位7位还不够你用的？即使你用温度或者其他函数描述，你输入的系数7位有效数字还不够你用？请楼主分析一下7个有效数字之后的数字对你物性的相对误差是多少。不要钻牛角尖了！

[ Last edited by mayo_0 on 2011-8-28 at 14:54 ]
赞一下(2人) 回复此楼
精通各种CFD项目（电磁、多相、燃烧等）。QQ85596847。
13楼2011-08-28 14:52:23
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

030301029

捐助贵宾 (正式写手)
★
小木虫: 金币+0.5, 给个红包，谢谢回帖
是否是说单精度和双精度？
赞一下 回复此楼
14楼2012-04-29 23:03:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hath

铜虫 (小有名气)
★
小木虫: 金币+0.5, 给个红包，谢谢回帖
七位的确不够用的，因为有时候模拟的多项式的一些系数是10的6次方的那种，然后实际上物性的数值只有个位的数量级，所以多项式的系数差一丢丢都会影响超大的，我这两天遇到这个问题才来搜索的，看完大家回答之后决定试一试双精度。。。不过我现在已经尽量降低拟合的次数，把系数降到跟物性值只差3、4个数量级。。。但是还是差挺多的。。
赞一下(1人) 回复此楼
15楼2014-07-16 13:17:42
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

艾小丫

银虫 (正式写手)
★
小木虫: 金币+0.5, 给个红包，谢谢回帖
引用回帖:
15楼: Originally posted by hath at 2014-07-16 13:17:42
七位的确不够用的，因为有时候模拟的多项式的一些系数是10的6次方的那种，然后实际上物性的数值只有个位的数量级，所以多项式的系数差一丢丢都会影响超大的，我这两天遇到这个问题才来搜索的，看完大家回答之后决定 ...

同意，遇到类似问题，有没有解决了？
赞一下 回复此楼
2023年大有所为
16楼2015-09-02 17:31:26
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

残阳天勤

新虫 (初入文坛)
★
小木虫: 金币+0.5, 给个红包，谢谢回帖
送红花一朵
这个问题怎么解决？

发自小木虫Android客户端
赞一下 回复此楼
17楼2016-01-17 10:20:56
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

745926383

新虫 (初入文坛)
★
小木虫: 金币+0.5, 给个红包，谢谢回帖
求解决方案，我的是10的-7次方，也是这种问题
赞一下 回复此楼
18楼2018-07-16 16:32:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

Byron-H

新虫 (小有名气)
★
小木虫: 金币+0.5, 给个红包，谢谢回帖
引用回帖:
16楼: Originally posted by 艾小丫 at 2015-09-02 17:31:26
同意，遇到类似问题，有没有解决了？...

请问您的问题解决了吗
赞一下 回复此楼
19楼2018-11-21 12:14:36
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

Byron-H

新虫 (小有名气)
引用回帖:
18楼: Originally posted by 745926383 at 2018-07-16 16:32:04
求解决方案，我的是10的-7次方，也是这种问题

您的问题解决了吗
赞一下 回复此楼
20楼2018-11-21 12:14:50
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 Cavalier2008 的主题更新
222/3返回列表上一页123下一页
普通表情 龙 兔 虎 猫 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 290求调剂 +14 柯淮然 2026-04-12 16/800 2026-04-12 19:22 by dan_wang
[考研] 材料工程281还有调剂机会吗 +28 xaw. 2026-04-11 29/1450 2026-04-12 17:55 by 郁郁菲菲
[考研] 一志愿华中农微生物，288分，三年实验经历 +11 代fish 2026-04-09 11/550 2026-04-12 10:21 by Hayaay
[考研] 化工调剂求导师收留！一志愿失利，踏实肯干，有植物提取科研经历 +20 yzyzx 2026-04-09 21/1050 2026-04-12 00:12 by 小小小小啦啦啦
[考研] 一志愿211，0703化学305分求调剂 +26 严西西戏 2026-04-06 33/1650 2026-04-11 23:01 by 314126402
[考研] 吉大计算机技术331分，英语六级，求调剂 +3 峰峰021116 2026-04-09 3/150 2026-04-10 20:01 by chemisry
[考研] 362求调剂 +10 我要考大 2026-04-06 14/700 2026-04-10 17:00 by luoyongfeng
[考研] 一志愿中南大学物理学，英一66，求调剂 +4 长烟旖旎 2026-04-08 5/250 2026-04-10 10:31 by 颖果儿
[考研] 考研二轮调剂 +8 故人?? 2026-04-09 8/400 2026-04-10 09:44 by 青梅duoduo
[考研] 347材料专硕求调剂 +19 zj8215216 2026-04-06 19/950 2026-04-10 09:36 by 690616278
[考研] 求调剂希望还是希望在山河四省附近 +3 快乐的小白鸽 2026-04-05 3/150 2026-04-09 17:36 by wp06
[考研] 348求调剂 +3 candyyyi 2026-04-09 3/150 2026-04-09 17:20 by 段伟艳
[考研] 一志愿武理车辆 281 求调剂 +5 上岸研究生. 2026-04-07 5/250 2026-04-09 15:56 by only周
[考研] 085801 总分275 本科新能源 求调剂 +8 bradoner 2026-04-08 9/450 2026-04-09 13:43 by only周
[考研] 266调剂 +8 daya sun 2026-04-07 9/450 2026-04-08 20:27 by yutian743
[考研] 336求调剂，一志愿中科大 +9 墨彧 yuyu 2026-04-06 9/450 2026-04-08 11:24 by 想读书的菌菌
[考研] 338求调剂 +8 wxygxsaaaaa 2026-04-06 8/400 2026-04-08 06:58 by 无际的草原
[考研] 305求调剂 +4 77Qi 2026-04-06 4/200 2026-04-07 20:06 by shanqishi
[考研] 325 调剂 +6 QQ小虾 2026-04-07 6/300 2026-04-07 15:17 by Ccclqqq
[考研] 307求调剂 +3 所念及所望 2026-04-06 3/150 2026-04-06 17:30 by 土木硕士招生
信息提示
关闭
请填处理意见
关闭