24小时热门版块排行榜    

查看: 260  |  回复: 1

shendannuaa

铁虫 (初入文坛)

[求助] UDF编写报错问题

float point error :invalid number

我自己估计是因为udf中有公式的分母项为ln(1-x),x是组分质量分数,因而会出现分母为0的情况,但公式又不能变,请问如何解决?
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

47425804

木虫 (正式写手)



xiegangmai(金币+1): 谢谢应助! 2012-03-11 21:14:43
在计算那个公式之前用一个判定,若X等于0了,就把它限制为一个很小的非零值。
下面这条语句可参考:
x = x<1e-6?1e-6:x;
或者用if语句:
if(x<1e-6)
    {x = 1e-6;}
2楼2012-03-11 16:52:01
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 shendannuaa 的主题更新
信息提示
请填处理意见