| 查看: 1362 | 回复: 5 | |||
| 当前只显示满足指定条件的回帖，点击这里查看本话题的所有回帖 | |||
[求助]
linux下的计算精度的设置
|
|||
|
大家好，最近在linux下用lammps算的东西，结果数据都保只保留了四位小数点，而在window下却是16位的，请问这是什么原因？是linux系统和windows系统的原因？还是lammps在两个系统下不同的原因？ 例如： linux下： 2278.2239 windows下：2278.3329129329420233 我想要更高的截断数据（16位），请问应该怎么设置 |
回复此楼» 猜你喜欢
职称评审没过，求安慰
已经有41人回复
-
回收溶剂求助
已经有7人回复
-
硝基苯如何除去
已经有3人回复
-
A期刊撤稿
已经有4人回复
-
垃圾破二本职称评审标准
已经有17人回复
-
投稿Elsevier的Neoplasia杂志，到最后选publishing options时页面空白，不能完成投稿
已经有22人回复
-
EST投稿状态问题
已经有7人回复
-
毕业后当辅导员了，天天各种学生超烦
已经有4人回复
-
求助文献
已经有3人回复
-
三无产品还有机会吗
已经有6人回复
» 本主题相关价值贴推荐，对您同样有帮助:
- ADF在linux下安装的并行设置
已经有8人回复
- NEB计算扩散路径的力收敛精度设置问题
已经有16人回复
- 设置matlab的计算精度问题
已经有3人回复
- 请问96G的内存, 12核, 2.66GHz 的电脑配置, CASTEP能计算最多的原子数 ？
已经有23人回复
- vasp计算DOS,以及如何判断参数的设置是合理的，达到要求的精度
已经有7人回复
- 【整理】今天整理硬盘上的资料，偶然发现的好玩的小东西就直接发上来吧
已经有105人回复
- 【放弃求助】谁知道VAMP模块的精度和参数设置
已经有6人回复
- 【求助】超级新的新手求助关于linux下环境变量的设置。
已经有10人回复
- 【活动】各种量子力学计算软件使用经验谈（回复就有奖励，讲述详细的奖励5-10金币）
已经有30人回复
|
不是dump，我是在lammps里用variable equal进行运算，可是数据的精度不够，所以都都导致为0 了,脚本中本分如下： variable poten1 equal pe variable p1 equal ${poten1} ... variable poten2 equal pe variable p2 equal ${poten1} ... variable poten3 equal pe variable p3 equal ${poten1} ... variable poten4 equal pe variable p4 equal ${poten1} ... variable mype equal ${p1}+${p2}-${p3}-${p4} ... 然后在log文件中，就会有这样的表示： variable poten1 equal pe variable p1 equal ${poten1} variable p1 equal 2775.42283 ... variable poten2 equal pe variable p2 equal 2775.42283 ... variable poten3 equal pe variable p3 equal 2775.42283 ... variable poten4 equal pe variable p4 equal 2775.42283 ... variable mype equal ${p1}+${p2}-${p3}-${p4} variable mype equal 2775.42283+2775.42283-2775.42283-2775.42283 所以就等于0了。 但实际上，每个variable先都进行了相应的操作，所以上面的p1,p2,p3,p4都是不相等的数，例如：2775.422832424和2775.4228292324，只是它四舍五入了。这种情况在windows下就不会产生，windows下会输出到小数点后面很多位，而这个linux下就只能截断到后5位了，请问该怎么处理。 |
5楼2012-09-27 10:47:09
2楼2012-09-26 20:31:59
bluewhale
铁杆木虫 (正式写手)
- 应助: 58 (初中生)
- 金币: 8438.3
- 散金: 50
- 红花: 10
- 帖子: 890
- 在线: 362.2小时
- 虫号: 278289
- 注册: 2006-09-10
- 专业: 凝聚态物性I:结构、力学和
【答案】应助回帖
★ ★
感谢参与，应助指数 +1
jiaoyixiong: 金币+2, 鼓励交流 2012-09-26 20:57:25
感谢参与，应助指数 +1
jiaoyixiong: 金币+2, 鼓励交流 2012-09-26 20:57:25
|
// dump_custom.cpp in constructor(): ... for (int i = 0; i < size_one; i++) { if (vtype == INT) format_default = strcat(format_default,"%d "  ;else if (vtype == DOUBLE) format_default = strcat(format_default,"%g " ;else if (vtype == STRING) strcat(format_default,"%s " ;vformat = NULL; } ... 可以将%g 改成 %20.14g或者其它什么的，不知你为什么要这么高的精度，好像缺省的就够用了。 |
3楼2012-09-26 20:33:57
4楼2012-09-27 09:42:42