24小时热门版块排行榜    

查看: 1141  |  回复: 10
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

wangxinling

新虫 (小有名气)

[求助] 程序运行步长怎么会变呢?求程序高手帮忙

规定时间步长为0.0001s,本应该是0.0001,0.0002,0.0003,0.0004,0.0005..............这样走下去。但是怎么会突然出现0.0009,0.00099999,0.0011,时间步长怎么变了?求程序高手帮忙。
回复此楼
木虫好友,太热情了,谢谢。
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

libralibra

至尊木虫 (著名写手)

骠骑将军

【答案】应助回帖

★ ★ ★
感谢参与,应助指数 +1
wangxinling: 金币+2, ★★★很有帮助 2012-08-19 19:00:14
wangxinling: 回帖置顶 2012-08-19 19:00:19
xzhdty: 金币+1, 谢谢骠骑将军 2012-08-19 19:21:13
这个没问题的,浮点数表示问题
matlab/VB/python/c++/Java写程序请发QQ邮件:790404545@qq.com
3楼2012-08-19 16:02:17
已阅   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 11 个回答

tianlangxingaa

铁杆木虫 (著名写手)

【答案】应助回帖

★ ★ ★
感谢参与,应助指数 +1
wangxinling: 金币+2 2012-08-19 18:59:56
xzhdty: 金币+1, 谢谢 2012-08-19 19:21:22
0.00099999就是0.0010,计算机存储问题
2楼2012-08-19 15:42:37
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

sxf2012

木虫 (正式写手)

【答案】应助回帖

★ ★
感谢参与,应助指数 +1
wangxinling: 金币+1, 有帮助 2012-08-19 19:02:31
xzhdty: 金币+1, 谢谢参与 2012-08-19 19:21:32
试试将步长的数据类型改为双精度 real*8
4楼2012-08-19 16:15:17
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

xingchen36

禁虫 (正式写手)

★ ★
感谢参与,应助指数 +1
wangxinling: 金币+1 2012-08-19 19:02:21
xzhdty: 金币+1, 谢谢 2012-08-19 19:21:42
本帖内容被屏蔽

5楼2012-08-19 16:23:25
已阅   关注TA 给TA发消息 送TA红花 TA的回帖
信息提示
请填处理意见