24小时热门版块排行榜    

查看: 2184  |  回复: 10
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

queji

铁虫 (正式写手)

[求助] mathematica数据精度截断 已有1人参与

我想将计算得到的结果精度控制后输出到文件中,可以遇到了问题。
例如,将计算结果0.123456789截断为0.12输出到文件data.txt中,
代码: N[0.123456789,2]>>>data.txt,
得到的结果是0.123456789‘2
想得到的结果0.12
怎么办?
求教。
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xzczd

木虫 (小有名气)

引用回帖:
5楼: Originally posted by delaunay at 2015-01-07 02:59:35
我在mathematica9测试过。这是结果
1        0.5        0.33        0.25        0.2
2        1        0.67        0.5        0.4
3        1.5        1        0.75        0.6
4        2        1.3        1        0.8
5        2.5        1.7        1.2        1
你也可以试一下

……如果delaunay同学是在和我说话的话,那么,我指的是楼在顶楼举的那个例子……你的解决方法确实是对的。
小木虫Mathematica版块已毁(当然原本也不咋的),建议大家前往百度贴吧或Stackexchange。
6楼2015-01-07 15:32:09
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 11 个回答

feixiaolin

荣誉版主 (文坛精英)

优秀版主

2楼2015-01-05 22:09:47
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

delaunay

金虫 (初入文坛)

【答案】应助回帖

★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★
感谢参与,应助指数 +1
queji(feixiaolin代发): 金币+5 2015-01-06 07:34:28
feixiaolin: 金币+20, http://emuch.net/bbs/viewthread.php?tid=8740247&fpage=1 2015-04-01 22:50:42
先设置精度,然后最好保存到数据文件中,比如csv格式。
b = Table[i/j, {i, 5}, {j, 5}] // N;
bb = SetPrecision[b, 2];
Export["bb.csv", bb]
科学无止境,可人生苦短
3楼2015-01-06 02:38:41
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xzczd

木虫 (小有名气)

插一句,楼主你一定没有测试自己举的例子。你这个输到data.txt里也不会是0.123456789`2,而会是0.123456789。

造成这一现象的理由,是因为数字0.123456789还没有超出机械精度(MachinePrecision)的表示范围,所以,在你没有明确指定的情况下,Mathematica即认为0.123456789是一个机械精度数,而机械精度按照Mathematica的规定其精度最低(这一规定和浮点数本身的“稀疏”特性有关),也就是说0.123456789的精度在Mathematica眼里连2都不到,而N[]只能让精度由高向低降,所以这里的N没有起作用。SetPrecision就是另一回事了,这个函数会强制指定精度。
小木虫Mathematica版块已毁(当然原本也不咋的),建议大家前往百度贴吧或Stackexchange。
4楼2015-01-06 16:24:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 让我中一个面上吧! +12 大萍1987 2026-08-20 15/750 2026-08-23 20:44 by 大萍1987
[基金申请] 什么时候开奖? +9 CrisMessi 2026-08-18 10/500 2026-08-23 12:03 by 丶昵称占用
[基金申请] 今天放榜吗? +15 布布和一二 2026-08-19 16/800 2026-08-23 09:55 by 张春生
[基金申请] 范进中举一文的中心思想 +3 炎黄贵胄 2026-08-22 4/200 2026-08-22 20:02 by mycsru
[基金申请] filecode,4个jtjc了 +13 ziyangfang 2026-08-19 16/800 2026-08-22 17:08 by WH3796
[基金申请] 人气不行了 +8 fansofjerry 2026-08-21 8/400 2026-08-22 16:30 by zyqchem
[基金申请] 今天基金会出结果吗?20260819 +16 kkkl_v 2026-08-19 17/850 2026-08-22 16:12 by 阿布Abu
[基金申请] 放榜前的不淡定 40+4 snowwithsea 2026-08-19 14/700 2026-08-21 23:51 by cratir
[基金申请] 今日不放榜?网传国自然预计 8 月 27 日可查结果 +16 医学老男孩 2026-08-20 20/1000 2026-08-21 21:13 by Ldrop2023
[基金申请] 科研孤儿太难了 +17 我4大白菜 2026-08-20 18/900 2026-08-21 20:57 by zhangev
[基金申请] 看来今天不会放榜了? +8 chengyan1220 2026-08-21 11/550 2026-08-21 17:52 by dcqxinyang
[基金申请] 感觉是下周放榜了 +7 angus9576 2026-08-17 12/600 2026-08-21 13:38 by weiyin
[基金申请] 我面上完蛋了 +7 且听虎啸 2026-08-20 8/400 2026-08-21 12:31 by 酷酷墨镜
[基金申请] 应该是下周三26日公布了吧? +4 哈哈蛤? 2026-08-21 4/200 2026-08-21 10:58 by Vivilian
[基金申请] 基金啊基金 +4 longfie172 2026-08-20 4/200 2026-08-21 08:58 by mark mao
[基金申请] 估计是周四 +3 archvillain 2026-08-18 3/150 2026-08-21 01:48 by jnhyjjm
[基金申请] 时间戳变了,能看出什么问题? +18 基诺咪客 2026-08-17 23/1150 2026-08-20 17:19 by Godzela
[基金申请] 重要消息,中午系统在维护 +11 yuleib84 2026-08-18 12/600 2026-08-20 11:09 by xskun
[基金申请] 朋友圈看到的 +6 wangzilk 2026-08-18 8/400 2026-08-19 10:55 by Haru815
[基金申请] 今天维护系统维护 祝所有人 高中 +8 gjjjzhong 2026-08-18 9/450 2026-08-18 13:01 by 家与远方
信息提示
请填处理意见