| 查看: 1880 | 回复: 10 | |||
| 当前只显示满足指定条件的回帖，点击这里查看本话题的所有回帖 | |||
[求助]
mathematica数据精度截断 已有1人参与
|
|||
|
我想将计算得到的结果精度控制后输出到文件中，可以遇到了问题。 例如，将计算结果0.123456789截断为0.12输出到文件data.txt中， 代码： N[0.123456789,2]>>>data.txt, 得到的结果是0.123456789‘2 想得到的结果0.12 怎么办？ 求教。 |
回复此楼» 猜你喜欢
上海工程技术大学张培磊教授团队招收博士生
已经有3人回复
-
上海工程技术大学【激光智能制造】课题组招收硕士
已经有5人回复
-
求助院士们，这个如何合成呀
已经有4人回复
-
临港实验室与上科大联培博士招生1名
已经有9人回复
-
想换工作。大多数高校都是 评职称时 认可5年内在原单位取得的成果吗？
已经有7人回复
-
需要合成515-64-0，50g，能接单的留言
已经有4人回复
-
自荐读博
已经有4人回复
-
写了一篇“相变储能技术在冷库中应用”的论文，论文内容以实验为主，投什么期刊合适？
已经有6人回复
-
带资进组求博导收留
已经有10人回复
-
最近几年招的学生写论文不引自己组发的文章
已经有11人回复
» 本主题相关价值贴推荐，对您同样有帮助:
- 如何利用Matlab画图呢？
已经有7人回复
- Mathematica的最大计算精度是多少？？能算到25位有效数字不？
已经有7人回复
- 使用Multiwfn绘制原子轨道图形、研究原子壳层结构及相对论效应的影响
已经有17人回复
8楼2015-01-08 15:17:33
feixiaolin
荣誉版主 (文坛精英)
-
专家经验: +518 - 应助: 942 (博后)
- 贵宾: 1.275
- 金币: 3430
- 散金: 58785
- 红花: 532
- 沙发: 11
- 帖子: 24215
- 在线: 2601.8小时
- 虫号: 2139575
- 注册: 2012-11-21
- 专业: 光学信息获取与处理
- 管辖: 数学
2楼2015-01-05 22:09:47
delaunay
金虫 (初入文坛)
- 应助: 5 (幼儿园)
- 金币: 1169.7
- 红花: 3
- 帖子: 39
- 在线: 137.2小时
- 虫号: 1739960
- 注册: 2012-04-06
- 性别: GG
- 专业: 计算数学与科学工程计算
【答案】应助回帖
★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★
感谢参与，应助指数 +1
queji(feixiaolin代发): 金币+5 2015-01-06 07:34:28
feixiaolin: 金币+20, http://emuch.net/bbs/viewthread.php?tid=8740247&fpage=1 2015-04-01 22:50:42
感谢参与，应助指数 +1
queji(feixiaolin代发): 金币+5 2015-01-06 07:34:28
feixiaolin: 金币+20, http://emuch.net/bbs/viewthread.php?tid=8740247&fpage=1 2015-04-01 22:50:42
|
先设置精度，然后最好保存到数据文件中，比如csv格式。 b = Table[i/j, {i, 5}, {j, 5}] // N; bb = SetPrecision[b, 2]; Export["bb.csv", bb] |
3楼2015-01-06 02:38:41
|
插一句，楼主你一定没有测试自己举的例子。你这个输到data.txt里也不会是0.123456789`2，而会是0.123456789。 造成这一现象的理由，是因为数字0.123456789还没有超出机械精度（MachinePrecision）的表示范围，所以，在你没有明确指定的情况下，Mathematica即认为0.123456789是一个机械精度数，而机械精度按照Mathematica的规定其精度最低（这一规定和浮点数本身的“稀疏”特性有关），也就是说0.123456789的精度在Mathematica眼里连2都不到，而N[]只能让精度由高向低降，所以这里的N没有起作用。SetPrecision就是另一回事了，这个函数会强制指定精度。 |
4楼2015-01-06 16:24:44