| 查看: 410 | 回复: 0 | ||
wy_pl木虫 (正式写手)
|
[求助]
请问，gmp中的gmf_t高精度浮点数计算有问题
|
|
请问，gmp中的gmf_t高精度浮点数计算有问题 比如：3.14/5.789 gmp结果：0.5424080152012437875651563769429 windows自带计算器和Java中的大数处理函数计算出来是：0.5424080152012437381240283295906 gmp从小数点后17位就不准了 这是怎么回事，gmp不是号称最好的高精度库吗？怎么一个浮点数除都不准啊！ [ Last edited by wy_pl on 2013-6-18 at 11:06 ] |
回复此楼» 猜你喜欢
关于豆爷回答的JTJC与%2F数量
已经有4人回复
-
基金中了
已经有11人回复
-
filecode
已经有18人回复
-
听说今天filecode变了
已经有44人回复
-
固定端突然变了，今天
已经有8人回复
-
filecode
已经有11人回复
-
大家散了吧，后缀研究没有意义，别浪费时间了，过好目前的每一天，不要焦虑
已经有6人回复
-
一个有机合成实验室都需要哪些设备？
已经有12人回复
-
求各位大神看下
已经有33人回复
-
咨询面上基金
已经有7人回复
50