24小时热门版块排行榜    

查看: 1142  |  回复: 10

wangxinling

新虫 (小有名气)

[求助] 程序运行步长怎么会变呢?求程序高手帮忙

规定时间步长为0.0001s,本应该是0.0001,0.0002,0.0003,0.0004,0.0005..............这样走下去。但是怎么会突然出现0.0009,0.00099999,0.0011,时间步长怎么变了?求程序高手帮忙。
回复此楼
木虫好友,太热情了,谢谢。
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

tianlangxingaa

铁杆木虫 (著名写手)

【答案】应助回帖

★ ★ ★
感谢参与,应助指数 +1
wangxinling: 金币+2 2012-08-19 18:59:56
xzhdty: 金币+1, 谢谢 2012-08-19 19:21:22
0.00099999就是0.0010,计算机存储问题
2楼2012-08-19 15:42:37
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

libralibra

至尊木虫 (著名写手)

骠骑将军

【答案】应助回帖

★ ★ ★
感谢参与,应助指数 +1
wangxinling: 金币+2, ★★★很有帮助 2012-08-19 19:00:14
wangxinling: 回帖置顶 2012-08-19 19:00:19
xzhdty: 金币+1, 谢谢骠骑将军 2012-08-19 19:21:13
这个没问题的,浮点数表示问题
matlab/VB/python/c++/Java写程序请发QQ邮件:790404545@qq.com
3楼2012-08-19 16:02:17
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

sxf2012

木虫 (正式写手)

【答案】应助回帖

★ ★
感谢参与,应助指数 +1
wangxinling: 金币+1, 有帮助 2012-08-19 19:02:31
xzhdty: 金币+1, 谢谢参与 2012-08-19 19:21:32
试试将步长的数据类型改为双精度 real*8
4楼2012-08-19 16:15:17
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

xingchen36

禁虫 (正式写手)

★ ★
感谢参与,应助指数 +1
wangxinling: 金币+1 2012-08-19 19:02:21
xzhdty: 金币+1, 谢谢 2012-08-19 19:21:42
本帖内容被屏蔽

5楼2012-08-19 16:23:25
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

wangxinling

新虫 (小有名气)

引用回帖:
4楼: Originally posted by sxf2012 at 2012-08-19 16:15:17
试试将步长的数据类型改为双精度 real*8

改了之后全是0了,这是怎么了?
木虫好友,太热情了,谢谢。
6楼2012-08-19 19:01:11
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

wangxinling

新虫 (小有名气)

引用回帖:
5楼: Originally posted by xingchen36 at 2012-08-19 16:23:25
计算机存储的问题,可以考虑设置精度……

改了全是0了,还不如不改呢,如果不改会影响精度吗?
木虫好友,太热情了,谢谢。
7楼2012-08-19 19:02:13
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

wangxinling

新虫 (小有名气)

引用回帖:
2楼: Originally posted by tianlangxingaa at 2012-08-19 15:42:37
0.00099999就是0.0010,计算机存储问题

是不是不影响精度呢?
木虫好友,太热情了,谢谢。
8楼2012-08-19 19:04:48
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

xingchen36

禁虫 (正式写手)

本帖内容被屏蔽

9楼2012-08-19 20:23:55
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

wangxinling

新虫 (小有名气)

引用回帖:
9楼: Originally posted by xingchen36 at 2012-08-19 20:23:55
windows吗?windows的计时器本来就不准,如果精度要求不是特别高的话就不影响,我们一般也用不了那么高的精度……...

是windows,行,不改了,就这样吧。高人,你的头像真的不好看啊。。。。。。
木虫好友,太热情了,谢谢。
10楼2012-08-20 13:42:36
已阅   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 wangxinling 的主题更新
信息提示
请填处理意见