24小时热门版块排行榜    

查看: 2560  |  回复: 9

xubujian

铁虫 (小有名气)

[求助] fluent中老出现floating error 是怎么回事

做微通道中液液不互溶体系的两相流传质模拟,用VOF模型,但迭代的时候老是出现如下的错误
Error: Floating point error: invalid number

Error Object: ()
请教各位大神到底是怎么回事啊
回复此楼

» 猜你喜欢

» 本主题相关价值贴推荐,对您同样有帮助:

平平淡淡才是真!
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

caemechanics

至尊木虫 (正式写手)


【答案】应助回帖


感谢参与,应助指数 +1
臭水沟(金币+1): 辛苦了~~ 2011-12-28 12:26:07
浮点溢出,换单精度试试
2楼2011-12-28 11:45:27
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xubujian

铁虫 (小有名气)

我用的就是单精度的啊
平平淡淡才是真!
3楼2011-12-28 15:05:49
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

caemechanics

至尊木虫 (正式写手)


【答案】应助回帖


xiegangmai(金币+1): 谢谢参与! 2011-12-28 22:03:56
再试试提高网格质量
4楼2011-12-28 17:15:51
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

5超7

至尊木虫 (著名写手)

菜鸟

【答案】应助回帖


感谢参与,应助指数 +1
xiegangmai(金币+1): 谢谢参与! 2011-12-28 22:04:07
引用回帖:
4楼: Originally posted by caemechanics at 2011-12-28 17:15:51:
再试试提高网格质量

可能是边界条件上面设置的问题,改变一下相关的数值,在算算看。
我要奋斗到底
5楼2011-12-28 20:41:52
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

kylafree

至尊木虫 (知名作家)

用了UDF没有
6楼2011-12-28 20:47:16
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xubujian

铁虫 (小有名气)

还没开始用UDF,就出现上面的问题了。网格质量我检查过了,挺好的,只是壁面上加了周期性边界条件,是不是跟这个有关啊?
平平淡淡才是真!
7楼2011-12-28 21:07:54
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

超级丐中丐

金虫 (小有名气)

【答案】应助回帖


感谢参与,应助指数 +1
臭水沟(金币+1): 谢谢交流~~ 2011-12-29 10:17:48
有可能是网格过密了,导致计算量过大,导致溢出
8楼2011-12-28 22:33:28
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

rewind

至尊木虫 (正式写手)

【答案】应助回帖


感谢参与,应助指数 +1
臭水沟(金币+1): 谢谢交流~~ 2011-12-29 10:17:54
溢出 保证精度情况下 减少计算量试试看 祝好运
在外种地...
9楼2011-12-28 23:33:39
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xubujian

铁虫 (小有名气)

好的,我试一下,多谢了!
平平淡淡才是真!
10楼2011-12-29 09:12:05
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 xubujian 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 售SCI文章,我:8O5.5.1.O.54,科目齐全,可+急 +5 LwdutQ8HoqWP 2026-09-13 5/250 2026-09-14 22:25 by vZfe6xYu34yj
[硕博家园] 售一区SCI文章T0P,我:8O.551.O54,科目全,可十急 +3 LwdutQ8HoqWP 2026-09-13 3/150 2026-09-14 22:24 by vZfe6xYu34yj
[找工作] 售SCI一区文章,我:8O5.5.1.O5.4,科目全,可伽急 +5 3n8v2C8RimXI 2026-09-13 5/250 2026-09-14 22:13 by vZfe6xYu34yj
[博后之家] 售SCI一区T0P文章,我:8.O55.1.O.54,科目全,可十急 +5 3n8v2C8RimXI 2026-09-13 5/250 2026-09-14 22:12 by vZfe6xYu34yj
[教师之家] 售SCI一区T0P文章,我:8.O.55.1.O.54,科目齐全,可+急 +5 3n8v2C8RimXI 2026-09-13 5/250 2026-09-14 22:01 by vZfe6xYu34yj
[博后之家] 售SCI一区T0P文章,我:8.O.55.1.O.5.4,科目全,可+急 +4 QUjhNVAcOSff 2026-09-13 4/200 2026-09-14 21:37 by vZfe6xYu34yj
[考研] 售SCI一区文章,我:8.O.551.O.5.4,科目全,可伽急 +4 QUjhNVAcOSff 2026-09-13 5/250 2026-09-14 21:33 by vZfe6xYu34yj
[找工作] 售SCI一区T0P文章,我:8.O.55.1.O.5.4,科目全,可+急 +3 QUjhNVAcOSff 2026-09-13 5/250 2026-09-14 21:25 by vZfe6xYu34yj
[博后之家] 售SCI一区T0P文章,我:8O.55.1.O.54,科目全,可伽急 +4 QUjhNVAcOSff 2026-09-13 5/250 2026-09-14 21:24 by vZfe6xYu34yj
[公派出国] 售SCI一区T0P文章,我:8.O55.1.O.54,科目全,可十急 +5 QUjhNVAcOSff 2026-09-13 7/350 2026-09-14 21:21 by vZfe6xYu34yj
[考博] 售SCI一区T0P文章,我:8O.55.1.O.5.4,科目齐全,可+急 +3 s3fFTmArrBt6 2026-09-14 4/200 2026-09-14 17:49 by Aj1rhIDL5ixY
[找工作] 售SCI一区T0P文章,我:8.O.55.1.O54,科目全,可伽急 +3 s3fFTmArrBt6 2026-09-14 4/200 2026-09-14 17:48 by Aj1rhIDL5ixY
[考博] 售SCI一区文章,我:8O5.5.1.O5.4,科目全,可伽急 +4 s3fFTmArrBt6 2026-09-14 4/200 2026-09-14 17:25 by Aj1rhIDL5ixY
[教师之家] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +3 LwdutQ8HoqWP 2026-09-13 4/200 2026-09-14 16:13 by Aj1rhIDL5ixY
[考博] 售SCI文章,我:8O.5.5.1O.54,科目全,可十急 +4 3n8v2C8RimXI 2026-09-13 4/200 2026-09-14 15:37 by Aj1rhIDL5ixY
[找工作] 售SCI一区T0P文章,我:8.O.55.1.O.5.4,科目全,可+急 +5 QUjhNVAcOSff 2026-09-13 6/300 2026-09-14 15:21 by Aj1rhIDL5ixY
[硕博家园] 售SCI一区T0P文章,我:8.O.55.1.O54,科目全,可伽急 +3 QUjhNVAcOSff 2026-09-13 3/150 2026-09-14 15:09 by Aj1rhIDL5ixY
[找工作] 浙江师范大学是怎么坑我的 +6 recruit123 2026-09-09 6/300 2026-09-14 12:00 by 萨仁其其格
[考博] 27秋季材料博士申请求助 10+3 Cahal1 2026-09-11 4/200 2026-09-14 08:50 by 北京莱茵编辑
[教师之家] 浙江师范大学是怎么坑我的 +10 recruit123 2026-09-09 15/750 2026-09-13 10:45 by seaskyy
信息提示
请填处理意见