24小时热门版块排行榜    

查看: 677  |  回复: 2
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

b07988

金虫 (正式写手)

星期六可以休息

[求助] udf中数据类型问题

如下:
#define xsize1 1.e-4                        //边缘粗网格
int xpos(real x)
{
        int a;
        if (x<=x1)
                a=(x-5.e-5)*(1./xsize1);
        return a;               
}
。。。
num=xpos(xx[j]); //xx[j]是系统x[0]赋值给xx[j],横坐标,xx[j]是real型,num是int

为什么同样的xx[j]对应的num不一样
是单精度问题吗?郁闷了好久。

还有为什么
#define minsize 0.025e-3        与#define minsize 0.05e-3/2.        效果不一样??

[ Last edited by b07988 on 2012-10-21 at 22:59 ]
回复此楼
先做最重要的事情,再做次重要的事情
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

sunbird04

银虫 (小有名气)

【答案】应助回帖

★ ★ ★
感谢参与,应助指数 +1
xiegangmai: 金币+1, 谢谢参与 2012-10-23 22:14:32
b07988: 金币+2, 有帮助, 感谢参与,但跟括号没有关系。 2012-10-24 09:15:21
第一个问题,不知道怎么回事。
对于第二个问题, 楼主最好是加个小括号将0.05e-3/2 改为(0.05e-3)/2
3楼2012-10-23 22:13:36
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 3 个回答

b07988

金虫 (正式写手)

星期六可以休息

再补充一个问题,同一个DEFINE_ON_DEMAND,用解释和编译后结果居然会不一样,大家遇到过吗?
先做最重要的事情,再做次重要的事情
2楼2012-10-23 20:15:16
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
信息提示
请填处理意见