| 查看: 387 | 回复: 0 | ||
wy_pl木虫 (正式写手)
|
[求助]
请问，gmp中的gmf_t高精度浮点数计算有问题
|
|
请问，gmp中的gmf_t高精度浮点数计算有问题 比如：3.14/5.789 gmp结果：0.5424080152012437875651563769429 windows自带计算器和Java中的大数处理函数计算出来是：0.5424080152012437381240283295906 gmp从小数点后17位就不准了 这是怎么回事，gmp不是号称最好的高精度库吗？怎么一个浮点数除都不准啊！ [ Last edited by wy_pl on 2013-6-18 at 11:06 ] |
回复此楼» 猜你喜欢
窗边初夏的小雨
已经有6人回复
-
2026年申博-电池方向
已经有11人回复
-
26年申博自荐-计算机视觉
已经有4人回复
-
导师各种操作恶心咋办
已经有8人回复
-
2026博士申请求助
已经有5人回复
-
研究生做的很差，你们会让毕业吗？
已经有11人回复
-
求碳排放博导；方向是LCA、生命周期可持续发展以及碳排放
已经有7人回复
-
2026博士或科研助理转27年博士
已经有7人回复
-
国自科送审了吗
已经有11人回复
-
博士招生
已经有5人回复