24小时热门版块排行榜    

CyRhmU.jpeg
查看: 424  |  回复: 9
当前主题已经存档。

poricaihong

木虫 (正式写手)

[交流] 【讨论】matlab连简单的计算都出错?【已完成】

今天我用matlab计算75.4-67.8
结果竟然输出
ans =

          7.60000000000001
我晕,matlab居然有这种错误?
不知道其他人的有没有这种情况,还是我的matlab有问题。

[ Last edited by nono2009 on 2009-9-28 at 13:15 ]
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主

★ ★
小木虫(金币+0.5):给个红包,谢谢回帖交流
kuhailangyu(金币+1,VIP+0):欢迎积极参与 9-20 22:15
这是计算精度的问题吧。如果你将变量设为单精度,误差会更大。

其他语言也是类似的。
2楼2009-09-20 16:03:46
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

edie

铁虫 (小有名气)

★ ★
小木虫(金币+0.5):给个红包,谢谢回帖交流
kuhailangyu(金币+1,VIP+0):欢迎积极参与 9-20 22:15
我的是:75.4-67.8

ans =

    7.6000
呵呵。。
3楼2009-09-20 16:09:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

edie

铁虫 (小有名气)

估计是不同版本的吧。。
4楼2009-09-20 16:10:14
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主

多按了一下。

[ Last edited by nono2009 on 2009-9-20 at 16:22 ]
5楼2009-09-20 16:20:43
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主


kuhailangyu(金币+1,VIP+0):欢迎积极参与 9-20 22:15
将你的输出数字的长度增加后再看看。
引用回帖:
Originally posted by edie at 2009-9-20 16:09:
我的是:75.4-67.8

ans =

    7.6000
呵呵。。

6楼2009-09-20 16:22:09
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

无名小草

金虫 (小有名气)


小木虫(金币+0.5):给个红包,谢谢回帖交流
nono2009(金币+0,VIP+0):你的回答好像与本帖问题没有关联。 9-27 10:50
我也有同感。有时,明明是程序通了,但是结果却出不来,索性关了程序,再打开就好使。这是个例。
7楼2009-09-27 10:43:41
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

woshilsh

荣誉版主 (职业作家)

优秀版主

★ ★
小木虫(金币+0.5):给个红包,谢谢回帖交流
nono2009(金币+1,VIP+0):区长也关注这个问题啊. hehe. Try format long. 9-27 14:48
偶的也是
ans=
   7.6000

你滴怎么搞的
[center][url=http://www.91cool.net/][img]http://id.91cool.net/sign/?name=小木虫印&say=各位版主辛苦了![/img][/url][/center]
8楼2009-09-27 14:26:31
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主


小木虫(金币+0.5):给个红包,谢谢回帖交流
See mine:

>> 75.4-67.8

ans =

    7.6000

>> format long
>> 75.4-67.8

ans =

   7.600000000000009
9楼2009-09-27 14:44:53
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

woshilsh

荣誉版主 (职业作家)

优秀版主


小木虫(金币+0.5):给个红包,谢谢回帖交流
引用回帖:
Originally posted by nono2009 at 2009-9-27 14:44:
See mine:

>> 75.4-67.8

ans =

    7.6000

>> format long
>> 75.4-67.8

ans =

   7.600000000000009

呵呵,对头,这样的话,我的也出这结果了
[center][url=http://www.91cool.net/][img]http://id.91cool.net/sign/?name=小木虫印&say=各位版主辛苦了![/img][/url][/center]
10楼2009-09-27 16:30:04
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 poricaihong 的主题更新
普通表情 高级回复(可上传附件)
信息提示
请填处理意见