24小时热门版块排行榜    

查看: 3231  |  回复: 11
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

我爱红魔

金虫 (正式写手)

[求助] Matlab默认计算精度是多少位?

在Matlab中.m文件编程仿真,请问其默认的计算精度是多少?默认的计算有效位数是多少?
想计算到小数点之后11位,不知能否满足要求。谢谢!
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

我爱红魔

金虫 (正式写手)

引用回帖:
2楼: Originally posted by 独孤神宇 at 2019-04-11 12:36:29
代码前面加上 format long  显示16位有效数字

format函数改变的是显示位数吧?不能改变计算精度和计算的有效位数
5楼2019-04-11 13:20:29
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 12 个回答

独孤神宇

版主 (知名作家)

代码前面加上 format long  显示16位有效数字

发自小木虫Android客户端
数值计算
2楼2019-04-11 12:36:29
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

zcwaxc

铜虫 (著名写手)


独孤神宇: 金币+1, 鼓励交流 2019-04-11 14:05:27
默认8位,其他楼上正解

发自小木虫IOS客户端
3楼2019-04-11 12:48:36
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

我爱红魔

金虫 (正式写手)

引用回帖:
3楼: Originally posted by zcwaxc at 2019-04-11 12:48:36
默认8位,其他楼上正解

为什么我在.m文件中可以计算出 6.1456e-11的结果?用的MATLAB默认设置
4楼2019-04-11 13:15:52
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
信息提示
请填处理意见