24小时热门版块排行榜    

查看: 2378  |  回复: 4

blue.wh

铁杆木虫 (知名作家)

[求助] matlab精度问题

输入a=0.42294可是在command window中却显示a=0.4229请问这是怎么回事,怎么调整精度呢?谢谢
回复此楼

» 猜你喜欢

» 本主题相关价值贴推荐,对您同样有帮助:

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

nono2009

超级版主 (文学泰斗)

No gains, no pains.

优秀区长优秀区长优秀区长优秀区长优秀版主

【答案】应助回帖

★ ★
blue.wh(金币+7): 谢谢区长 2011-05-23 11:00:22
ben_ladeng(金币+2): 谢谢交流 2011-05-23 13:25:42
改变精度设置,用
format long
2楼2011-05-23 10:52:36
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hunanxuyang

金虫 (正式写手)

【答案】应助回帖


blue.wh(金币+3): 3q 2011-05-23 11:00:28
xiegangmai(金币+1): 谢谢参与! 2011-05-23 23:31:31
在matlab帮助里面查找format 里面有详细的介绍,提供了很多种精度显示格式(long/short e/g)
既然不能改变天气,那就改变你的心情
3楼2011-05-23 10:58:32
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xiegangmai

版主 (职业作家)

我没头衔

优秀版主优秀版主优秀版主


臭水沟(金币+1): 3Q!感谢交流! 2011-05-24 11:20:39
引用回帖:
Originally posted by blue.wh at 2011-05-23 10:36:51:
输入a=0.42294可是在command window中却显示a=0.4229请问这是怎么回事,怎么调整精度呢?谢谢

除了foromat命令,还可以看看vpa、digits、double等命令,都可以调整精度的。

好久不见你到仿真模拟版来了,学习忙吗?
欢迎常来讨论交流!
明德厚学、求是创新
4楼2011-05-23 23:33:26
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

wangyuewu08

木虫 (著名写手)

★ ★
臭水沟(金币+2): 哈哈。。。欢迎常来交流~~ 2011-05-30 09:13:09
再补充一点,format只是改变现实的位数,并不影响实际的精度。数值量在Matlab内部均是以双精度浮点型存储和运算的。
By default, MATLAB stores all numeric values as double-precision floating point. (You cannot change the default type and precision.)

楼主的图标很漂亮
往事并不如烟
5楼2011-05-30 07:22:08
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 blue.wh 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 欢迎发来filecode的Mz6后的代码验证其规律 +32 医学老男孩 2026-08-13 74/3700 2026-08-16 21:05 by 医学老男孩
[论文投稿] 岩土工程学报什么时候才能终审完呐 25+3 yeager111 2026-08-10 4/200 2026-08-16 20:42 by tfang
[基金申请] 时间戳又变了8-15 +13 archvillain 2026-08-15 25/1250 2026-08-16 20:13 by zhaosm1982
[基金申请] 2027广东省杰青 +3 奶牛小黑 2026-08-15 6/300 2026-08-16 20:07 by 奶牛小黑
[基金申请] 哪位老哥知道今年的国自然具体哪一天放榜? +9 Ldrop2023 2026-08-13 9/450 2026-08-16 13:24 by wukun_007
[基金申请] 咱们一起用铁证分析2026国家社科基金中标与否 +7 启萌科技 2026-08-12 26/1300 2026-08-16 12:35 by 启萌科技
[基金申请] 我的国基提前知道中了,可是同事的操作让我实在接受不了,怎么会有这样的人 +11 家与远方 2026-08-10 16/800 2026-08-16 10:28 by ray43
[基金申请] filecode=后面第一个是大写字母 +6 wangze12014 2026-08-14 7/350 2026-08-15 20:12 by gltch
[基金申请] filecode +8 cratir 2026-08-14 12/600 2026-08-15 18:08 by zyfgau
[基金申请] 关于Filecode分析方法 +10 majunge000 2026-08-10 13/650 2026-08-15 12:26 by hanpeng972
[基金申请] 各位道友,我要去昆明玩几天,回来见。 +7 Tide man 2026-08-14 8/400 2026-08-15 01:11 by arzu_hma
[基金申请] 是这周出结果还是下周出结果? +4 yuleib84 2026-08-11 4/200 2026-08-14 23:05 by lfy8008
[基金申请] filecode +15 documentary 2026-08-10 17/850 2026-08-14 10:08 by kissu88
[基金申请] FileCode能看出啥? +10 要乐观耀哥 2026-08-10 32/1600 2026-08-14 09:37 by 要乐观耀哥
[基金申请] 不应该看fileCode +7 且听虎啸 2026-08-12 9/450 2026-08-13 14:27 by flydreamws
[基金申请] Filecode 又变了,巨变 +3 WH3796 2026-08-12 4/200 2026-08-13 14:13 by 小木虫6752397
[基金申请] 2019年青年基金涵评意见,大家看看几个A,几个B? +11 Tide man 2026-08-11 11/550 2026-08-13 07:35 by 撸猫猫
[基金申请] 为什么网上很多人说本周 12号出结果 +6 瞬息宇宙 2026-08-10 7/350 2026-08-11 19:25 by Tide man
[基金申请] 什么时候出结果,有咨询渠道??? +3 Tide man 2026-08-11 3/150 2026-08-11 17:54 by kudofaye
[基金申请] 确定了,国自然21号放榜 +6 布布和一二 2026-08-10 7/350 2026-08-10 19:15 by 2000zf36392
信息提示
请填处理意见