| 查看: 362 | 回复: 0 | ||
wy_pl木虫 (正式写手)
|
[求助]
请问，gmp中的gmf_t高精度浮点数计算有问题
|
|
请问，gmp中的gmf_t高精度浮点数计算有问题 比如：3.14/5.789 gmp结果：0.5424080152012437875651563769429 windows自带计算器和Java中的大数处理函数计算出来是：0.5424080152012437381240283295906 gmp从小数点后17位就不准了 这是怎么回事，gmp不是号称最好的高精度库吗？怎么一个浮点数除都不准啊！ [ Last edited by wy_pl on 2013-6-18 at 11:06 ] |
回复此楼» 猜你喜欢
有时候真觉得大城市人没有县城人甚至个体户幸福
已经有11人回复
-
表哥与省会女结婚，父母去帮带孩子被省会女气回家生重病了
已经有7人回复
-
同年申请2项不同项目，第1个项目里不写第2个项目的信息，可以吗
已经有8人回复
-
依托企业入选了国家启明计划青年人才。有无高校可以引进的。
已经有7人回复
-
依托企业入选了国家启明计划青年人才。有无高校可以引进的。
已经有10人回复
-
天津大学招2026.09的博士生，欢迎大家推荐交流（博导是本人）
已经有9人回复
-
有院领导为了换新车，用横向课题经费买了俩车
已经有10人回复
-
AI 太可怕了，写基金时，提出想法，直接生成的文字比自己想得深远，还有科学性
已经有6人回复