| 查看: 1889 | 回复: 10 | |||
[求助]
mathematica数据精度截断 已有1人参与
|
|
我想将计算得到的结果精度控制后输出到文件中,可以遇到了问题。 例如,将计算结果0.123456789截断为0.12输出到文件data.txt中, 代码: N[0.123456789,2]>>>data.txt, 得到的结果是0.123456789‘2 想得到的结果0.12 怎么办? 求教。 |
» 猜你喜欢
计算机、0854电子信息(085401-058412)调剂
已经有4人回复
基金申报
已经有3人回复
国自然申请面上模板最新2026版出了吗?
已经有9人回复
溴的反应液脱色
已经有6人回复
纳米粒子粒径的测量
已经有7人回复
常年博士招收(双一流,工科)
已经有4人回复
推荐一本书
已经有10人回复
参与限项
已经有5人回复
有没有人能给点建议
已经有5人回复
假如你的研究生提出不合理要求
已经有12人回复
» 本主题相关价值贴推荐,对您同样有帮助:
如何利用Matlab画图呢?
已经有7人回复
Mathematica的最大计算精度是多少??能算到25位有效数字不?
已经有7人回复
使用Multiwfn绘制原子轨道图形、研究原子壳层结构及相对论效应的影响
已经有17人回复
feixiaolin
荣誉版主 (文坛精英)
-

专家经验: +518 - 应助: 942 (博后)
- 贵宾: 1.275
- 金币: 3430
- 散金: 58785
- 红花: 532
- 沙发: 11
- 帖子: 24215
- 在线: 2601.8小时
- 虫号: 2139575
- 注册: 2012-11-21
- 专业: 光学信息获取与处理
- 管辖: 数学
2楼2015-01-05 22:09:47
delaunay
金虫 (初入文坛)
- 应助: 5 (幼儿园)
- 金币: 1169.7
- 红花: 3
- 帖子: 39
- 在线: 137.2小时
- 虫号: 1739960
- 注册: 2012-04-06
- 性别: GG
- 专业: 计算数学与科学工程计算
【答案】应助回帖
★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★
感谢参与,应助指数 +1
queji(feixiaolin代发): 金币+5 2015-01-06 07:34:28
feixiaolin: 金币+20, http://emuch.net/bbs/viewthread.php?tid=8740247&fpage=1 2015-04-01 22:50:42
感谢参与,应助指数 +1
queji(feixiaolin代发): 金币+5 2015-01-06 07:34:28
feixiaolin: 金币+20, http://emuch.net/bbs/viewthread.php?tid=8740247&fpage=1 2015-04-01 22:50:42
|
先设置精度,然后最好保存到数据文件中,比如csv格式。 b = Table[i/j, {i, 5}, {j, 5}] // N; bb = SetPrecision[b, 2]; Export["bb.csv", bb] |

3楼2015-01-06 02:38:41
|
插一句,楼主你一定没有测试自己举的例子。你这个输到data.txt里也不会是0.123456789`2,而会是0.123456789。 造成这一现象的理由,是因为数字0.123456789还没有超出机械精度(MachinePrecision)的表示范围,所以,在你没有明确指定的情况下,Mathematica即认为0.123456789是一个机械精度数,而机械精度按照Mathematica的规定其精度最低(这一规定和浮点数本身的“稀疏”特性有关),也就是说0.123456789的精度在Mathematica眼里连2都不到,而N[]只能让精度由高向低降,所以这里的N没有起作用。SetPrecision就是另一回事了,这个函数会强制指定精度。 |

4楼2015-01-06 16:24:44
delaunay
金虫 (初入文坛)
- 应助: 5 (幼儿园)
- 金币: 1169.7
- 红花: 3
- 帖子: 39
- 在线: 137.2小时
- 虫号: 1739960
- 注册: 2012-04-06
- 性别: GG
- 专业: 计算数学与科学工程计算

5楼2015-01-07 02:59:35

6楼2015-01-07 15:32:09
7楼2015-01-08 15:00:31

8楼2015-01-08 15:17:33

9楼2015-01-08 15:18:54
10楼2015-01-08 15:52:28












回复此楼