24小时热门版块排行榜    

查看: 3227  |  回复: 11
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

我爱红魔

金虫 (正式写手)

[求助] Matlab默认计算精度是多少位?

在Matlab中.m文件编程仿真,请问其默认的计算精度是多少?默认的计算有效位数是多少?
想计算到小数点之后11位,不知能否满足要求。谢谢!
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

独孤神宇

版主 (知名作家)

【答案】应助回帖

引用回帖:
8楼: Originally posted by 我爱红魔 at 2019-04-11 13:40:30
嗯嗯,谢谢您!我的问题就是MATLAB默认计算精度有多少位呢?...

前面不是回复过了吗,默认8位,在代码前面加上  format long  就是16位了。。
数值计算
9楼2019-04-11 14:03:26
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 12 个回答

独孤神宇

版主 (知名作家)

代码前面加上 format long  显示16位有效数字

发自小木虫Android客户端
数值计算
2楼2019-04-11 12:36:29
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zcwaxc

铜虫 (著名写手)


独孤神宇: 金币+1, 鼓励交流 2019-04-11 14:05:27
默认8位,其他楼上正解

发自小木虫IOS客户端
3楼2019-04-11 12:48:36
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

我爱红魔

金虫 (正式写手)

引用回帖:
3楼: Originally posted by zcwaxc at 2019-04-11 12:48:36
默认8位,其他楼上正解

为什么我在.m文件中可以计算出 6.1456e-11的结果?用的MATLAB默认设置
4楼2019-04-11 13:15:52
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
信息提示
请填处理意见