应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 计算模拟区 » 仿真模拟 » MATLAB » 【求助】Matlab程序简单问题，急！【已完成】
51/1返回列表
查看: 462  |  回复: 7
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看
当前主题已经存档。
当前只显示满足指定条件的回帖，点击这里查看本话题的所有回帖

阳光茶园

禁虫 (职业作家)
本帖内容被屏蔽

» 猜你喜欢
1楼 2009-06-17 14:03:51
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

yf_appe

木虫 (小有名气)
★
小木虫(金币+0.5):给个红包，谢谢回帖交流
精度问题还是要好好研究，我在读入EXCEL数据的时候也遇到类似问题，整个文件读入的时候，系统自动将所有数据转换成了科学计数法，本来有用需要的数据被四舍五入了，但是只读取其中某一列的话，数据就是正确的！
所以说还是把C语言的书拿出来把精度这一节好好研究一下吧
赞一下(1人) 回复此楼
7楼2009-08-11 22:27:41
已阅   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 8 个回答

hyk2006

木虫 (小有名气)
★ ★ ★
小木虫(金币+0.5):给个红包，谢谢回帖交流
kuhailangyu(金币+2,VIP+0):谢谢回帖交流 6-17 16:50
两个结果都是双精度的，可能有误差

可以比较结果的前n项的值
vpa(0.15-0.10,n)==vpa(0.10-0.05,n)
或者看它们的差是否小于系统精度
(0.15-0.10)-(0.10-0.05)
期待高手给出更好的解释
赞一下(11人) 回复此楼
2楼2009-06-17 16:21:47
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

sitonyl

铁杆木虫 (文坛精英)
★ ★
小木虫(金币+0.5):给个红包，谢谢回帖交流
kuhailangyu(金币+1,VIP+0):谢谢参与，欢迎常来 6-18 11:11
比较怪异。试一下，
0.15-0.1==0.12-0.07
结果是正确的，而
0.15-0.1==0.13-0.08
结果不正确。

[ Last edited by sitonyl on 2009-6-18 at 07:29 ]
赞一下(11人) 回复此楼
zz
3楼2009-06-18 07:25:54
已阅   关注TA 给TA发消息 送TA红花 TA的回帖

mininurse

金虫 (正式写手)
★ ★
小木虫(金币+0.5):给个红包，谢谢回帖交流
sunxiao(金币+1,VIP+0):谢谢参与，欢迎常来 6-19 03:19
应该就是双精度的问题吧
赞一下(11人) 回复此楼
4楼2009-06-18 16:45:58
已阅   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 8 个回答
信息提示
关闭
请填处理意见
关闭