应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 计算模拟区 » 仿真模拟 » FLUENT & CFX » fluent中老出现floating error 是怎么回事
北京石油化工学院2026年研究生招生接收调剂公告
101/1返回列表
查看: 2213  |  回复: 9
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看

xubujian

铁虫 (小有名气)

[求助] fluent中老出现floating error 是怎么回事

做微通道中液液不互溶体系的两相流传质模拟，用VOF模型，但迭代的时候老是出现如下的错误
Error: Floating point error: invalid number

Error Object: ()
请教各位大神到底是怎么回事啊
回复此楼

» 猜你喜欢

» 本主题相关价值贴推荐，对您同样有帮助:
平平淡淡才是真！
1楼 2011-12-28 11:12:35
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

caemechanics

至尊木虫 (正式写手)

【答案】应助回帖

★
感谢参与，应助指数 +1
臭水沟(金币+1): 辛苦了~~ 2011-12-28 12:26:07
浮点溢出，换单精度试试
赞一下(1人) 回复此楼
2楼2011-12-28 11:45:27
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xubujian

铁虫 (小有名气)
我用的就是单精度的啊
赞一下 回复此楼
平平淡淡才是真！
3楼2011-12-28 15:05:49
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

caemechanics

至尊木虫 (正式写手)

【答案】应助回帖

★
xiegangmai(金币+1): 谢谢参与！ 2011-12-28 22:03:56
再试试提高网格质量
赞一下(1人) 回复此楼
4楼2011-12-28 17:15:51
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

5超7

至尊木虫 (著名写手)

菜鸟

【答案】应助回帖

★
感谢参与，应助指数 +1
xiegangmai(金币+1): 谢谢参与！ 2011-12-28 22:04:07
引用回帖:
4楼: Originally posted by caemechanics at 2011-12-28 17:15:51:
再试试提高网格质量

可能是边界条件上面设置的问题，改变一下相关的数值，在算算看。
赞一下(1人) 回复此楼
我要奋斗到底
5楼2011-12-28 20:41:52
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

kylafree

至尊木虫 (知名作家)
用了UDF没有
回复此楼
6楼2011-12-28 20:47:16
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xubujian

铁虫 (小有名气)
还没开始用UDF，就出现上面的问题了。网格质量我检查过了，挺好的，只是壁面上加了周期性边界条件，是不是跟这个有关啊？
赞一下 回复此楼
平平淡淡才是真！
7楼2011-12-28 21:07:54
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

超级丐中丐

金虫 (小有名气)

【答案】应助回帖

★
感谢参与，应助指数 +1
臭水沟(金币+1): 谢谢交流~~ 2011-12-29 10:17:48
有可能是网格过密了，导致计算量过大，导致溢出
赞一下(1人) 回复此楼
8楼2011-12-28 22:33:28
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

rewind

至尊木虫 (正式写手)

【答案】应助回帖

★
感谢参与，应助指数 +1
臭水沟(金币+1): 谢谢交流~~ 2011-12-29 10:17:54
溢出 保证精度情况下 减少计算量试试看 祝好运
赞一下(1人) 回复此楼
在外种地...
9楼2011-12-28 23:33:39
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xubujian

铁虫 (小有名气)
好的，我试一下，多谢了！
赞一下 回复此楼
平平淡淡才是真！
10楼2011-12-29 09:12:05
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 xubujian 的主题更新
101/1返回列表
普通表情 龙 兔 虎 猫
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 材料调剂 +3 一样YWY 2026-04-05 3/150 2026-04-05 16:02 by 无际的草原
[考研] 367求调剂 +3 谢28 2026-03-30 3/150 2026-04-05 13:27 by huangmoli
[考研] 一志愿南航，数一英一学硕317求调剂！！ +5 Acaciad 2026-04-04 5/250 2026-04-05 12:31 by 搏击518
[考研] 295求调剂 +10 xndjjj 2026-04-04 10/500 2026-04-05 11:19 by 猪会飞
[考研] 一志愿 南京航空航天大学 ，080500材料科学与工程学硕 +8 @taotao 2026-03-30 8/400 2026-04-05 11:15 by 风雨无晴
[考研] 材料专硕 调剂 +13 CXN123456 2026-04-03 13/650 2026-04-04 21:59 by hemengdong
[考研] 333求调剂 +12 wfh030413@ 2026-04-03 13/650 2026-04-04 21:02 by jj987
[考研] 一志愿安徽某211 0703化学总分339求调剂 +6 晚风不晚 2026-04-04 6/300 2026-04-04 20:11 by dongzh2009
[考研] 求调剂，一志愿北京中医药大学 +3 小小达不溜 2026-04-02 3/150 2026-04-03 22:55 by 冲矢昴星团
[考研] 357求调剂 +13 1050389037 2026-04-03 13/650 2026-04-03 22:27 by 无际的草原
[考研] 303求调剂 +9 DLkz1314. 2026-03-30 9/450 2026-04-03 18:34 by ls刘帅
[考研] 282求调剂 不挑专业 求收留 +7 Yam. 2026-03-30 8/400 2026-04-03 14:12 by zhangdingwa
[考研] 生物学308分求调剂（一志愿华东师大） +6 相信必会光芒万� 2026-03-31 7/350 2026-04-02 23:16 by JourneyLucky
[考研] 化学070300-总分378-求调剂 +5 挪椅子的泡泡糖 2026-04-02 5/250 2026-04-02 22:20 by ZXlzxl0425
[考研] 22408 266求调剂 +3 masss11222 2026-04-02 3/150 2026-04-02 18:11 by 笔落锦州
[考研] 调剂 +3 好好读书。 2026-04-01 6/300 2026-04-02 15:49 by liumengping
[考研] 考研调剂 +12 Amber00 2026-03-31 12/600 2026-04-02 09:04 by sanrepian
[考研] 物理学调剂 +4 小羊36 2026-03-30 4/200 2026-03-31 16:16 by lishahe
[考研] 085404 22408 315分 +5 zhuangyan123 2026-03-31 6/300 2026-03-31 13:48 by limeifeng
[考研] 297 地理学070500 复试求调剂 +3 小圆圈圈ooo 2026-03-30 3/150 2026-03-30 21:05 by 余震yz
信息提示
关闭
请填处理意见
关闭