应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 专业学科区 » 数学 » 数学综合 » mathematica数据精度截断
51/1返回列表
查看: 2179  |  回复: 10
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看
当前只显示满足指定条件的回帖，点击这里查看本话题的所有回帖

queji

铁虫 (正式写手)

[求助] mathematica数据精度截断 已有1人参与

我想将计算得到的结果精度控制后输出到文件中，可以遇到了问题。
例如，将计算结果0.123456789截断为0.12输出到文件data.txt中，
代码： N[0.123456789,2]>>>data.txt,
得到的结果是0.123456789‘2
想得到的结果0.12
怎么办？
求教。
回复此楼

» 猜你喜欢

» 本主题相关价值贴推荐，对您同样有帮助:
1楼 2015-01-05 15:15:40
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

queji

铁虫 (正式写手)
引用回帖:
6楼: Originally posted by xzczd at 2015-01-07 15:32:09
……如果delaunay同学是在和我说话的话，那么，我指的是楼主在顶楼举的那个例子……你的解决方法确实是对的。...

这是我按你的例子计算的结果，在mathematica面板里面的输出是符合的，但是输出文件里面不是
mathematica数据精度截断
Untitled-2.jpg
赞一下 回复此楼
7楼2015-01-08 15:00:31
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 11 个回答

feixiaolin

荣誉版主 (文坛精英)

优秀版主
http://zhidao.baidu.com/link?url ... YvNyZDyLBgxAVn5iCOm
赞一下 回复此楼
2楼2015-01-05 22:09:47
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

delaunay

金虫 (初入文坛)

【答案】应助回帖

★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★
感谢参与，应助指数 +1
queji(feixiaolin代发): 金币+5 2015-01-06 07:34:28
feixiaolin: 金币+20, http://emuch.net/bbs/viewthread.php?tid=8740247&fpage=1 2015-04-01 22:50:42
先设置精度，然后最好保存到数据文件中，比如csv格式。
b = Table[i/j, {i, 5}, {j, 5}] // N;
bb = SetPrecision[b, 2];
Export["bb.csv", bb]
赞一下 回复此楼
科学无止境，可人生苦短
3楼2015-01-06 02:38:41
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xzczd

木虫 (小有名气)
插一句，楼主你一定没有测试自己举的例子。你这个输到data.txt里也不会是0.123456789`2，而会是0.123456789。

造成这一现象的理由，是因为数字0.123456789还没有超出机械精度（MachinePrecision）的表示范围，所以，在你没有明确指定的情况下，Mathematica即认为0.123456789是一个机械精度数，而机械精度按照Mathematica的规定其精度最低（这一规定和浮点数本身的“稀疏”特性有关），也就是说0.123456789的精度在Mathematica眼里连2都不到，而N[]只能让精度由高向低降，所以这里的N没有起作用。SetPrecision就是另一回事了，这个函数会强制指定精度。
赞一下 回复此楼
小木虫Mathematica版块已毁（当然原本也不咋的），建议大家前往百度贴吧或Stackexchange。
4楼2015-01-06 16:24:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 11 个回答
普通表情 龙 兔 虎 猫
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[基金申请] 2026国自然函评费到账 +16 羊腰板 2026-08-21 17/850 2026-08-23 23:02 by tianxiaochun
[基金申请] 让我中一个面上吧！ +12 大萍1987 2026-08-20 15/750 2026-08-23 20:44 by 大萍1987
[基金申请] 2026年的国家社科基金项目通讯评审的新规则与新动向、新挑战 +4 process2012 2026-08-23 5/250 2026-08-23 19:58 by jurkat.1640
[基金申请] 今天放榜吗？ +15 布布和一二 2026-08-19 16/800 2026-08-23 09:55 by 张春生
[基金申请] 只有每年这种时候来逛逛小木虫 +24 yaoyewhu2008 2026-08-20 26/1300 2026-08-22 17:43 by kammury
[基金申请] filecode，4个jtjc了 +13 ziyangfang 2026-08-19 16/800 2026-08-22 17:08 by WH3796
[基金申请] 人气不行了 +8 fansofjerry 2026-08-21 8/400 2026-08-22 16:30 by zyqchem
[基金申请] 时间戳今天，20号变了 +5 archvillain 2026-08-20 5/250 2026-08-22 06:12 by hui_daxiao
[基金申请] 放榜前的不淡定 40+4 snowwithsea 2026-08-19 14/700 2026-08-21 23:51 by cratir
[基金申请] 今日不放榜？网传国自然预计 8 月 27 日可查结果 +16 医学老男孩 2026-08-20 20/1000 2026-08-21 21:13 by Ldrop2023
[基金申请] 科研孤儿太难了 +17 我4大白菜 2026-08-20 18/900 2026-08-21 20:57 by zhangev
[基金申请] 看来今天不会放榜了？ +8 chengyan1220 2026-08-21 11/550 2026-08-21 17:52 by dcqxinyang
[基金申请] 时间戳又变了 +13 wuchongjun 2026-08-20 19/950 2026-08-21 17:21 by 紫杉醇
[基金申请] 应该是下周三26日公布了吧？ +4 哈哈蛤？ 2026-08-21 4/200 2026-08-21 10:58 by Vivilian
[论文投稿] 投稿咨询 +5 wwm09 2026-08-17 7/350 2026-08-21 10:11 by 期刊论文帮手
[基金申请] 今天放榜没戏了吧 +9 yuleib84 2026-08-19 11/550 2026-08-21 10:06 by gltch
[基金申请] 基金啊基金 +4 longfie172 2026-08-20 4/200 2026-08-21 08:58 by mark mao
[基金申请] 估计是周四 +3 archvillain 2026-08-18 3/150 2026-08-21 01:48 by jnhyjjm
[基金申请] 重要消息，中午系统在维护 +11 yuleib84 2026-08-18 12/600 2026-08-20 11:09 by xskun
[基金申请] 明天放榜？ +5 Shxjjxjkx 2026-08-18 5/250 2026-08-18 18:14 by -大大大大大-
信息提示
关闭
请填处理意见
关闭