| 查看: 423 | 回复: 0 | |||
wy_pl木虫 (正式写手)
|
[求助]
请问，gmp中的gmf_t高精度浮点数计算有问题
|
|
请问，gmp中的gmf_t高精度浮点数计算有问题 比如：3.14/5.789 gmp结果：0.5424080152012437875651563769429 windows自带计算器和Java中的大数处理函数计算出来是：0.5424080152012437381240283295906 gmp从小数点后17位就不准了 这是怎么回事，gmp不是号称最好的高精度库吗？怎么一个浮点数除都不准啊！ [ Last edited by wy_pl on 2013-6-18 at 11:06 ] |
回复此楼» 猜你喜欢
基金系统什么内容也没有
已经有6人回复
-
有多少人是今天查系统知道结果的？
已经有17人回复
-
国自然面上复盘~欢迎讨论
已经有12人回复
-
为什么资助数各大高校都创新高，自己申请怎么就这么难
已经有9人回复
-
售SCI一区文章，我:8O5.5.1.O5.4,科目全,可伽急
已经有3人回复
-
哪位高人中了，把查询到的截图贴出来让我看看，让我长长见识
已经有6人回复
-
售SCI文章，我:8O5.5.1.O.54,科目齐全,可+急
已经有4人回复
-
面上合作单位盖章
已经有5人回复
-
导师吐槽：我怎么摊上了这么个极品研究生！
已经有7人回复
-
申请删除本帖
已经有7人回复
30
