24小时热门版块排行榜    

查看: 943  |  回复: 2

田山东

捐助贵宾 (著名写手)


[交流] fortran数据类型精确度比较

我在做一个程序,定义了很多数组,数组类型定义为 complex*16, 因为数组都是复数型,定义成双精度,这样会占用很大内存。想把它定义为complex*8类型,不知道会对结果产生多大影响?在多大范围内二者会相同啊?
10^(-9)范围内二者能相等吗?
回复此楼

» 猜你喜欢

» 抢金币啦!回帖就可以得到:

查看全部散金贴

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

田山东(金币+1): 谢谢参与
在你指定的精度内是否会影响结果,你可以估算一下,
下面是complex*8和complex*16的数据格式

complex*8


complex*16
2楼2012-07-25 21:42:06
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

田山东(金币+1): 谢谢参与
*16 或 *8 都是编译器扩展,最好不要这么用……
3楼2012-07-25 22:59:07
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 田山东 的主题更新
普通表情 高级回复 (可上传附件)
信息提示
请填处理意见