24小时热门版块排行榜

返回列表

【悬赏金币】回答本帖问题，作者liych_user将赠送您 10 个金币

liych_user

捐助贵宾 (初入文坛)

应助: 0 (幼儿园)
金币: 25.3
散金: 16
帖子: 42
在线: 28.8小时
虫号: 26824631
注册: 2021-07-19
专业: 结构工程

[求助] abaqus的python二次开发的建模小数精确问题

请教各位，abaqus的python脚本运行的小数精度要到哪里进行调整？
发现abaqus命令栏计算的结果都取较小整数（如下），但是我现在想保留尽可能多的小数（比如出现这样的结果：-1375/3=458.333333333，1375/3=458.333333333），几何建模定位不希望出现因此带来的较大偏差。

CODE:

>>> -1375/3

-459

>>> 1375/3

458

回复此楼

» 猜你喜欢

烦躁已经有5人回复
寻找合作团队已经有4人回复

1楼 2021-11-29 19:49:56

已阅回复此楼关注TA 给TA发消息送TA红花 TA的回帖

liych_user

捐助贵宾 (初入文坛)

应助: 0 (幼儿园)
金币: 25.3
散金: 16
帖子: 42
在线: 28.8小时
虫号: 26824631
注册: 2021-07-19
专业: 结构工程

在别的论坛上已解决，把所有的数值换成浮点数就可以出现较精确的结果

CODE:

>>> -1375.0/3.0

-458.333333333333

>>> 1375.0/3.0

458.333333333333

赞一下

回复此楼

2楼2021-11-29 20:38:58

已阅回复此楼关注TA 给TA发消息送TA红花 TA的回帖

相关版块跳转我要订阅楼主 liych_user 的主题更新

返回列表

不应助 确定回帖应助 (注意：应助才可能被奖励，但不允许灌水，必须填写15个字符以上)

普通表情龙兔虎猫