24小时热门版块排行榜    

查看: 3183  |  回复: 11

我爱红魔

金虫 (正式写手)

自己在.m文件中计算可以得到结果6.1456e-11的结果。没有修改过默认配置。
请问Matlab的默认计算精度是否是16位?
11楼2019-04-11 16:09:23
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

独孤神宇

版主 (知名作家)

【答案】应助回帖

★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ...
我爱红魔: 金币+80, ★★★★★最佳答案 2019-04-11 16:45:06
引用回帖:
10楼: Originally posted by 我爱红魔 at 2019-04-11 14:46:06
谢谢,如果是默认8位,为什么我在.m文件中可以计算出 6.1456e-11的结果?没有修改过默认配置
format long 只是改变显示位数,不改变计算精度...

实际默认计算的可能是就是16位吧。

一般显示16位的结果都是看得到的,如果计算精度小于16位,那么后面应该全是用0来补齐的,事实好像并不是这样。。

如果要控制计算精度,可以用 vpa 函数来,比如 vpa(pi,11),  具体可以参照vpa函数的用法。
数值计算
12楼2019-04-11 16:34:58
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 我爱红魔 的主题更新
信息提示
请填处理意见