24小时热门版块排行榜    

查看: 720  |  回复: 1
【悬赏金币】回答本帖问题,作者liych_user将赠送您 10 个金币

liych_user

捐助贵宾 (初入文坛)

[求助] abaqus的python二次开发的建模小数精确问题

请教各位,abaqus的python脚本运行的小数精度要到哪里进行调整?
发现abaqus命令栏计算的结果都取较小整数(如下),但是我现在想保留尽可能多的小数(比如出现这样的结果:-1375/3=458.333333333,1375/3=458.333333333),几何建模定位不希望出现因此带来的较大偏差。
CODE:
>>> -1375/3
-459
>>> 1375/3
458

回复此楼

» 猜你喜欢

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

liych_user

捐助贵宾 (初入文坛)

在别的论坛上已解决,把所有的数值换成浮点数就可以出现较精确的结果
CODE:
>>> -1375.0/3.0
-458.333333333333
>>> 1375.0/3.0
458.333333333333

2楼2021-11-29 20:38:58
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 liych_user 的主题更新
不应助 确定回帖应助 (注意:应助才可能被奖励,但不允许灌水,必须填写15个字符以上)
信息提示
请填处理意见