24小时热门版块排行榜    

查看: 945  |  回复: 2
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

田山东

捐助贵宾 (著名写手)


[交流] fortran数据类型精确度比较

我在做一个程序,定义了很多数组,数组类型定义为 complex*16, 因为数组都是复数型,定义成双精度,这样会占用很大内存。想把它定义为complex*8类型,不知道会对结果产生多大影响?在多大范围内二者会相同啊?
10^(-9)范围内二者能相等吗?
回复此楼

» 猜你喜欢

» 抢金币啦!回帖就可以得到:

查看全部散金贴

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

田山东(金币+1): 谢谢参与
*16 或 *8 都是编译器扩展,最好不要这么用……
3楼2012-07-25 22:59:07
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 3 个回答

田山东(金币+1): 谢谢参与
在你指定的精度内是否会影响结果,你可以估算一下,
下面是complex*8和complex*16的数据格式

complex*8


complex*16
2楼2012-07-25 21:42:06
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通表情 高级回复 (可上传附件)
信息提示
请填处理意见