应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 专业学科区 » 数学 » 数学综合 » mathematica数据精度截断
111/2返回列表12下一页
查看: 1871  |  回复: 10
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看

queji

铁虫 (正式写手)

[求助] mathematica数据精度截断 已有1人参与

我想将计算得到的结果精度控制后输出到文件中，可以遇到了问题。
例如，将计算结果0.123456789截断为0.12输出到文件data.txt中，
代码： N[0.123456789,2]>>>data.txt,
得到的结果是0.123456789‘2
想得到的结果0.12
怎么办？
求教。
回复此楼

» 猜你喜欢

» 本主题相关价值贴推荐，对您同样有帮助:
1楼 2015-01-05 15:15:40
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

feixiaolin

荣誉版主 (文坛精英)

优秀版主
http://zhidao.baidu.com/link?url ... YvNyZDyLBgxAVn5iCOm
赞一下 回复此楼
2楼2015-01-05 22:09:47
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

delaunay

金虫 (初入文坛)

【答案】应助回帖

★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★
感谢参与，应助指数 +1
queji(feixiaolin代发): 金币+5 2015-01-06 07:34:28
feixiaolin: 金币+20, http://emuch.net/bbs/viewthread.php?tid=8740247&fpage=1 2015-04-01 22:50:42
先设置精度，然后最好保存到数据文件中，比如csv格式。
b = Table[i/j, {i, 5}, {j, 5}] // N;
bb = SetPrecision[b, 2];
Export["bb.csv", bb]
赞一下 回复此楼
科学无止境，可人生苦短
3楼2015-01-06 02:38:41
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xzczd

木虫 (小有名气)
插一句，楼主你一定没有测试自己举的例子。你这个输到data.txt里也不会是0.123456789`2，而会是0.123456789。

造成这一现象的理由，是因为数字0.123456789还没有超出机械精度（MachinePrecision）的表示范围，所以，在你没有明确指定的情况下，Mathematica即认为0.123456789是一个机械精度数，而机械精度按照Mathematica的规定其精度最低（这一规定和浮点数本身的“稀疏”特性有关），也就是说0.123456789的精度在Mathematica眼里连2都不到，而N[]只能让精度由高向低降，所以这里的N没有起作用。SetPrecision就是另一回事了，这个函数会强制指定精度。
赞一下 回复此楼
小木虫Mathematica版块已毁（当然原本也不咋的），建议大家前往百度贴吧或Stackexchange。
4楼2015-01-06 16:24:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

delaunay

金虫 (初入文坛)
我在mathematica9测试过。这是结果
1        0.5        0.33        0.25        0.2
2        1        0.67        0.5        0.4
3        1.5        1        0.75        0.6
4        2        1.3        1        0.8
5        2.5        1.7        1.2        1
你也可以试一下
赞一下 回复此楼
科学无止境，可人生苦短
5楼2015-01-07 02:59:35
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xzczd

木虫 (小有名气)
引用回帖:
5楼: Originally posted by delaunay at 2015-01-07 02:59:35
我在mathematica9测试过。这是结果
1        0.5        0.33        0.25        0.2
2        1        0.67        0.5        0.4
3        1.5        1        0.75        0.6
4        2        1.3        1        0.8
5        2.5        1.7        1.2        1
你也可以试一下

……如果delaunay同学是在和我说话的话，那么，我指的是楼主在顶楼举的那个例子……你的解决方法确实是对的。
赞一下 回复此楼
小木虫Mathematica版块已毁（当然原本也不咋的），建议大家前往百度贴吧或Stackexchange。
6楼2015-01-07 15:32:09
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

queji

铁虫 (正式写手)
引用回帖:
6楼: Originally posted by xzczd at 2015-01-07 15:32:09
……如果delaunay同学是在和我说话的话，那么，我指的是楼主在顶楼举的那个例子……你的解决方法确实是对的。...

这是我按你的例子计算的结果，在mathematica面板里面的输出是符合的，但是输出文件里面不是
mathematica数据精度截断
Untitled-2.jpg
赞一下 回复此楼
7楼2015-01-08 15:00:31
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xzczd

木虫 (小有名气)
引用回帖:
7楼: Originally posted by queji at 2015-01-08 15:00:31
这是我按你的例子计算的结果，在mathematica面板里面的输出是符合的，但是输出文件里面不是

Untitled-2.jpg
...

……为什么引用我。给出这个答案的不是我啊。算了……之所以会不一样，是因为，你把Import改成了>>>（PutAppend），这个函数在Mathematica里相对底层一些，（就我所知）是做不到如Import一般方便的格式控制的。
赞一下 回复此楼
小木虫Mathematica版块已毁（当然原本也不咋的），建议大家前往百度贴吧或Stackexchange。
8楼2015-01-08 15:17:33
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xzczd

木虫 (小有名气)
引用回帖:
8楼: Originally posted by xzczd at 2015-01-08 15:17:33
……为什么引用我。给出这个答案的不是我啊。算了……之所以会不一样，是因为，你把Import改成了>>>（PutAppend），这个函数在Mathematica里相对底层一些，（就我所知）是做不到如Import一般方便的格式控 ...

……写错了，不是Import，是Export。
赞一下 回复此楼
小木虫Mathematica版块已毁（当然原本也不咋的），建议大家前往百度贴吧或Stackexchange。
9楼2015-01-08 15:18:54
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

玲V平常心

新虫 (正式写手)
设置一下即可

[ 发自小木虫客户端 ]
回复此楼
10楼2015-01-08 15:52:28
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 queji 的主题更新
111/2返回列表12下一页
普通表情 龙 兔 虎 猫
信息提示
关闭
请填处理意见
关闭