24小时热门版块排行榜    

查看: 1884  |  回复: 10
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

queji

铁虫 (正式写手)

[求助] mathematica数据精度截断 已有1人参与

我想将计算得到的结果精度控制后输出到文件中,可以遇到了问题。
例如,将计算结果0.123456789截断为0.12输出到文件data.txt中,
代码: N[0.123456789,2]>>>data.txt,
得到的结果是0.123456789‘2
想得到的结果0.12
怎么办?
求教。
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

queji

铁虫 (正式写手)

引用回帖:
6楼: Originally posted by xzczd at 2015-01-07 15:32:09
……如果delaunay同学是在和我说话的话,那么,我指的是楼主在顶楼举的那个例子……你的解决方法确实是对的。...

这是我按你的例子计算的结果,在mathematica面板里面的输出是符合的,但是输出文件里面不是
mathematica数据精度截断
Untitled-2.jpg

7楼2015-01-08 15:00:31
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

queji

铁虫 (正式写手)

引用回帖:
10楼: Originally posted by 玲V平常心 at 2015-01-08 15:52:28
设置一下即可

能详细解说一下吗
11楼2015-01-09 08:08:35
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 queji 的主题更新
信息提示
请填处理意见