| 查看: 400 | 回复: 0 | ||
wy_pl木虫 (正式写手)
|
[求助]
请问，gmp中的gmf_t高精度浮点数计算有问题
|
|
请问，gmp中的gmf_t高精度浮点数计算有问题 比如：3.14/5.789 gmp结果：0.5424080152012437875651563769429 windows自带计算器和Java中的大数处理函数计算出来是：0.5424080152012437381240283295906 gmp从小数点后17位就不准了 这是怎么回事，gmp不是号称最好的高精度库吗？怎么一个浮点数除都不准啊！ [ Last edited by wy_pl on 2013-6-18 at 11:06 ] |
回复此楼» 猜你喜欢
评委有多少概率知道其他专家手中有哪些人的本子？
已经有3人回复
-
E0414, 我的本子有没有希望？
已经有17人回复
-
青A35岁以下通知答辩了吗
已经有4人回复
-
小城的小雨
已经有3人回复
-
看《给阿ma的情书》有感
已经有5人回复
-
国自然申请五篇代表作大比拼，感觉这个是最重要的
已经有4人回复
-
雷雨
已经有3人回复