24小时热门版块排行榜    

查看: 2190  |  回复: 9

xubujian

铁虫 (小有名气)

[求助] fluent中老出现floating error 是怎么回事

做微通道中液液不互溶体系的两相流传质模拟,用VOF模型,但迭代的时候老是出现如下的错误
Error: Floating point error: invalid number

Error Object: ()
请教各位大神到底是怎么回事啊
回复此楼
平平淡淡才是真!
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

caemechanics

至尊木虫 (正式写手)


【答案】应助回帖


感谢参与,应助指数 +1
臭水沟(金币+1): 辛苦了~~ 2011-12-28 12:26:07
浮点溢出,换单精度试试
2楼2011-12-28 11:45:27
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xubujian

铁虫 (小有名气)

我用的就是单精度的啊
平平淡淡才是真!
3楼2011-12-28 15:05:49
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

caemechanics

至尊木虫 (正式写手)


【答案】应助回帖


xiegangmai(金币+1): 谢谢参与! 2011-12-28 22:03:56
再试试提高网格质量
4楼2011-12-28 17:15:51
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

5超7

至尊木虫 (著名写手)

菜鸟

【答案】应助回帖


感谢参与,应助指数 +1
xiegangmai(金币+1): 谢谢参与! 2011-12-28 22:04:07
引用回帖:
4楼: Originally posted by caemechanics at 2011-12-28 17:15:51:
再试试提高网格质量

可能是边界条件上面设置的问题,改变一下相关的数值,在算算看。
我要奋斗到底
5楼2011-12-28 20:41:52
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

kylafree

至尊木虫 (知名作家)

用了UDF没有
6楼2011-12-28 20:47:16
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xubujian

铁虫 (小有名气)

还没开始用UDF,就出现上面的问题了。网格质量我检查过了,挺好的,只是壁面上加了周期性边界条件,是不是跟这个有关啊?
平平淡淡才是真!
7楼2011-12-28 21:07:54
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

超级丐中丐

金虫 (小有名气)

【答案】应助回帖


感谢参与,应助指数 +1
臭水沟(金币+1): 谢谢交流~~ 2011-12-29 10:17:48
有可能是网格过密了,导致计算量过大,导致溢出
8楼2011-12-28 22:33:28
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

rewind

至尊木虫 (正式写手)

【答案】应助回帖


感谢参与,应助指数 +1
臭水沟(金币+1): 谢谢交流~~ 2011-12-29 10:17:54
溢出 保证精度情况下 减少计算量试试看 祝好运
在外种地...
9楼2011-12-28 23:33:39
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xubujian

铁虫 (小有名气)

好的,我试一下,多谢了!
平平淡淡才是真!
10楼2011-12-29 09:12:05
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 xubujian 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 326求调剂 +4 上岸的小葡 2026-03-15 5/250 2026-03-16 08:39 by Linda Hu
[基金申请] 现在如何回避去年的某一个专家,不知道名字 +3 zk200107 2026-03-12 6/300 2026-03-14 17:13 by zk200107
[考研] 255求调剂 +3 李嘉慧, 2026-03-12 4/200 2026-03-14 16:58 by 有只狸奴
[考研] 一志愿北京化工大学材料与化工296分求调剂 +16 稻妻小编 2026-03-09 18/900 2026-03-14 02:00 by JourneyLucky
[考研] 求调剂! +4 朔朔话 2026-03-09 4/200 2026-03-14 01:38 by JourneyLucky
[考研] 云南财经大学信息学院计算机学硕专硕学位点 +3 zjptai 2026-03-10 5/250 2026-03-14 01:23 by 飞行琦
[考研] 一志愿郑大070303,338分,求调剂 +4 dadawaf 2026-03-10 5/250 2026-03-14 01:20 by lsw010101
[基金申请] 有必要更换申报口吗 20+3 fannyamoy 2026-03-11 3/150 2026-03-14 00:52 by zhanghaozhu
[考研] 312求调剂 +6 陌宸希 2026-03-10 6/300 2026-03-14 00:40 by JourneyLucky
[考研] 311求调剂 +8 zchqwer 2026-03-10 8/400 2026-03-14 00:01 by JourneyLucky
[考研] 0703化学一志愿211 总分320求调剂 +5 玛卡巴卡啊哈 2026-03-11 5/250 2026-03-13 21:40 by JourneyLucky
[考研] (081700)化学工程与技术-298分求调剂 +12 11啦啦啦 2026-03-11 35/1750 2026-03-13 21:25 by JourneyLucky
[考研] 332求调剂 +3 Zz版 2026-03-13 3/150 2026-03-13 20:36 by 18595523086
[考研] 301求调剂 +6 Liyouyumairs 2026-03-11 6/300 2026-03-13 20:11 by JourneyLucky
[考研] 0703一志愿211 285分求调剂 +4 ly3471z 2026-03-13 4/200 2026-03-13 13:00 by JourneyLucky
[考研] 070303一志愿西北大学学硕310找调剂 +3 d如愿上岸 2026-03-12 5/250 2026-03-13 10:56 by houyaoxu
[考博] 福州大学杨黄浩课题组招收2026年专业学位博士研究生,2026.03.20截止 +3 Xiangyu_ou 2026-03-12 3/150 2026-03-13 09:36 by duanwu655
[考研] 化工0817调剂 +8 灿若星晨 2026-03-10 8/400 2026-03-10 22:44 by 星空星月
[考研] 一志愿:武汉理工,材料工程,英二数二 总分314 +3 2202020125 2026-03-10 4/200 2026-03-10 13:54 by xiongyaxuan
[考研] 294 英二数二物化 求调剂 +6 米饭团不好吃 2026-03-09 6/300 2026-03-09 23:55 by barlinike
信息提示
请填处理意见