24小时热门版块排行榜    

查看: 2490  |  回复: 9

xubujian

铁虫 (小有名气)

[求助] fluent中老出现floating error 是怎么回事

做微通道中液液不互溶体系的两相流传质模拟,用VOF模型,但迭代的时候老是出现如下的错误
Error: Floating point error: invalid number

Error Object: ()
请教各位大神到底是怎么回事啊
回复此楼
平平淡淡才是真!
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

caemechanics

至尊木虫 (正式写手)


【答案】应助回帖


感谢参与,应助指数 +1
臭水沟(金币+1): 辛苦了~~ 2011-12-28 12:26:07
浮点溢出,换单精度试试
2楼2011-12-28 11:45:27
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xubujian

铁虫 (小有名气)

我用的就是单精度的啊
平平淡淡才是真!
3楼2011-12-28 15:05:49
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

caemechanics

至尊木虫 (正式写手)


【答案】应助回帖


xiegangmai(金币+1): 谢谢参与! 2011-12-28 22:03:56
再试试提高网格质量
4楼2011-12-28 17:15:51
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

5超7

至尊木虫 (著名写手)

菜鸟

【答案】应助回帖


感谢参与,应助指数 +1
xiegangmai(金币+1): 谢谢参与! 2011-12-28 22:04:07
引用回帖:
4楼: Originally posted by caemechanics at 2011-12-28 17:15:51:
再试试提高网格质量

可能是边界条件上面设置的问题,改变一下相关的数值,在算算看。
我要奋斗到底
5楼2011-12-28 20:41:52
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

kylafree

至尊木虫 (知名作家)

用了UDF没有
6楼2011-12-28 20:47:16
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xubujian

铁虫 (小有名气)

还没开始用UDF,就出现上面的问题了。网格质量我检查过了,挺好的,只是壁面上加了周期性边界条件,是不是跟这个有关啊?
平平淡淡才是真!
7楼2011-12-28 21:07:54
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

超级丐中丐

金虫 (小有名气)

【答案】应助回帖


感谢参与,应助指数 +1
臭水沟(金币+1): 谢谢交流~~ 2011-12-29 10:17:48
有可能是网格过密了,导致计算量过大,导致溢出
8楼2011-12-28 22:33:28
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

rewind

至尊木虫 (正式写手)

【答案】应助回帖


感谢参与,应助指数 +1
臭水沟(金币+1): 谢谢交流~~ 2011-12-29 10:17:54
溢出 保证精度情况下 减少计算量试试看 祝好运
在外种地...
9楼2011-12-28 23:33:39
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xubujian

铁虫 (小有名气)

好的,我试一下,多谢了!
平平淡淡才是真!
10楼2011-12-29 09:12:05
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 xubujian 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 没有任何消息-是不是就凉了 +9 图啦图啦 2026-08-24 10/500 2026-08-25 11:59 by 南海小哥
[基金申请] 2026国自然函评费到账 +19 羊腰板 2026-08-21 22/1100 2026-08-25 10:38 by popular289
[教师之家] 导师吐槽:我怎么摊上了这么个极品研究生! +3 苏东坡二世 2026-08-23 3/150 2026-08-25 10:35 by shisan1313
[基金申请] 2026年的国家社科基金项目通讯评审的新规则与新动向、新挑战 +5 process2012 2026-08-23 7/350 2026-08-25 09:42 by huixian257
[基金申请] 我面上完蛋了 +13 且听虎啸 2026-08-20 14/700 2026-08-25 09:10 by mrkang
[基金申请] 范进中举一文的中心思想 +7 炎黄贵胄 2026-08-22 8/400 2026-08-25 08:48 by ZJTJZ
[基金申请] 只有每年这种时候来逛逛小木虫 +25 yaoyewhu2008 2026-08-20 27/1350 2026-08-25 08:01 by Equinoxhua
[基金申请] 明天应该可查了!? +5 chengyan1220 2026-08-23 5/250 2026-08-24 23:28 by 我4大白菜
[基金申请] filecode,4个jtjc了 +14 ziyangfang 2026-08-19 17/850 2026-08-24 18:37 by 哈哈蛤?
[基金申请] 建议基金发布提前给出明确的时间点 +13 kulium 2026-08-21 16/800 2026-08-24 16:27 by superceng
[基金申请] 今日不放榜?网传国自然预计 8 月 27 日可查结果 +17 医学老男孩 2026-08-20 21/1050 2026-08-24 14:21 by refreshing11
[基金申请] 朋友圈看到的 +7 wangzilk 2026-08-18 9/450 2026-08-24 10:50 by cmrandy
[基金申请] 让我中一个面上吧! +13 大萍1987 2026-08-20 16/800 2026-08-24 10:23 by 太傻了
[基金申请] 放榜前的不淡定 20+4 snowwithsea 2026-08-19 17/850 2026-08-24 10:20 by echo8914667
[基金申请] 什么时候开奖? +10 CrisMessi 2026-08-18 11/550 2026-08-24 06:50 by 开心的小狮子
[基金申请] 今天放榜吗? +15 布布和一二 2026-08-19 16/800 2026-08-23 09:55 by 张春生
[基金申请] 看来今天不会放榜了? +8 chengyan1220 2026-08-21 11/550 2026-08-21 17:52 by dcqxinyang
[基金申请] 应该是下周三26日公布了吧? +4 哈哈蛤? 2026-08-21 4/200 2026-08-21 10:58 by Vivilian
[基金申请] 基金啊基金 +4 longfie172 2026-08-20 4/200 2026-08-21 08:58 by mark mao
[基金申请] 明天放榜? +5 Shxjjxjkx 2026-08-18 5/250 2026-08-18 18:14 by -大大大大大-
信息提示
请填处理意见