24小时热门版块排行榜    

查看: 751  |  回复: 1
【悬赏金币】回答本帖问题,作者liych_user将赠送您 10 个金币

liych_user

捐助贵宾 (初入文坛)

[求助] abaqus的python二次开发的建模小数精确问题

请教各位,abaqus的python脚本运行的小数精度要到哪里进行调整?
发现abaqus命令栏计算的结果都取较小整数(如下),但是我现在想保留尽可能多的小数(比如出现这样的结果:-1375/3=458.333333333,1375/3=458.333333333),几何建模定位不希望出现因此带来的较大偏差。
CODE:
>>> -1375/3
-459
>>> 1375/3
458

回复此楼

» 猜你喜欢

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

liych_user

捐助贵宾 (初入文坛)

在别的论坛上已解决,把所有的数值换成浮点数就可以出现较精确的结果
CODE:
>>> -1375.0/3.0
-458.333333333333
>>> 1375.0/3.0
458.333333333333

2楼2021-11-29 20:38:58
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 liych_user 的主题更新
不应助 确定回帖应助 (注意:应助才可能被奖励,但不允许灌水,必须填写15个字符以上)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 材料复试调剂 +6 学材料的点 2026-03-01 7/350 2026-03-04 17:21 by 梦天888
[考研] 环境调剂 +6 柒槿levana 2026-03-01 6/300 2026-03-04 15:55 by hypershenger
[考研] 求调剂 +3 泡了个椒 2026-03-04 3/150 2026-03-04 15:36 by 每天只摆一小会
[考研] 材料专硕290求调剂 +3 杰尼龟aaa 2026-03-04 3/150 2026-03-04 15:31 by syfwater
[考研] 320材料与化工,求调剂 +4 鹤遨予卿 2026-03-04 5/250 2026-03-04 14:24 by 冠c哥
[考研] 281求调剂 +3 Y?l?h 2026-03-04 3/150 2026-03-04 10:51 by 汪!?!
[考研] 0703化学 学硕 理工科均可 不区分研究方向 总分279求调剂 +5 1一11 2026-03-03 5/250 2026-03-03 23:14 by zhukairuo
[考研] 266材料化工求调剂 +3 哇塞王帅 2026-03-03 3/150 2026-03-03 17:58 by houyaoxu
[考研] 江苏省农科院招调剂1名 +5 Qwertyuop 2026-03-01 5/250 2026-03-03 17:50 by 梅子鸭鸭
[硕博家园] 2025届双非化工硕士毕业,申博 +4 更多的是 2026-02-27 5/250 2026-03-03 17:44 by wenium
[考研] 材料270求调剂 6+6 Eiiiio 2026-03-01 11/550 2026-03-03 15:04 by Phoebelala
[考研] 计算机学硕 分数285求调剂 +4 glwshine 2026-03-02 5/250 2026-03-03 14:27 by king呀
[考研] 288求调剂 +3 少71.8 2026-03-02 5/250 2026-03-03 06:01 by tgxtgxtgx9
[考研] 0856材料求调剂 +12 hyf hyf hyf 2026-02-28 13/650 2026-03-02 20:19 by hypershenger
[考研] 一志愿中石油(华东)本科齐鲁工业大学 +3 石能伟 2026-03-02 3/150 2026-03-02 18:54 by caszguilin
[考研] 303求调剂 +5 今夏不夏 2026-03-01 5/250 2026-03-02 15:01 by 向上的胖东
[考研] 275求调剂 +3 L-xin? 2026-03-01 6/300 2026-03-02 10:22 by 热情沙漠
[考研] 322求调剂 +3 熊境喆 2026-03-01 3/150 2026-03-02 08:44 by houyaoxu
[考研] 279求调剂 +3 dua1 2026-03-01 4/200 2026-03-02 00:23 by 大脸蛋子
[硕博家园] 博士自荐 +7 科研狗111 2026-02-26 11/550 2026-03-01 22:24 by 哲平L
信息提示
请填处理意见