| 查看: 1093 | 回复: 2 | |||
[交流]
fortran数据类型精确度比较
|
|
我在做一个程序,定义了很多数组,数组类型定义为 complex*16, 因为数组都是复数型,定义成双精度,这样会占用很大内存。想把它定义为complex*8类型,不知道会对结果产生多大影响?在多大范围内二者会相同啊? 10^(-9)范围内二者能相等吗? |
» 猜你喜欢
申博
已经有7人回复
征友后感触
已经有9人回复
食品与机械 编辑C处理稿子时间
已经有4人回复
27年药学 考博申请
已经有6人回复
注意啦!用基金购买打印纸、硒鼓、优盘、移动硬盘、个人计算机属于违规了
已经有4人回复
为了不被淘汰,必须要开始第三次奋斗了
已经有12人回复
IVD领域内综述投稿推荐
已经有5人回复
2楼2012-07-25 21:42:06
3楼2012-07-25 22:59:07










回复此楼