| 查看: 849 | 回复: 3 | |||
icecream8508金虫 (著名写手)
|
[交流]
在程序中采用DEXP指数函数，但是计算结果提示Math-exp overflow error 已有2人参与
|
|
在程序中采用DEXP指数函数，但是计算结果提示Math-exp overflow error。 将每一步输出，发现在经过一次迭代后，DEXP的指数变成1441了，这已经超过For90中双精度的最大表数范围了？ 这可如何是好？ 一般这种问题，是算法的问题哪？还是别的问题哪？ |
回复此楼» 猜你喜欢
不自信的我
已经有9人回复
-
磺酰氟产物，毕不了业了！
已经有8人回复
-
求助:我三月中下旬出站，青基依托单位怎么办？
已经有10人回复
-
26申博（荧光探针方向，有机合成）
已经有4人回复
-
要不要辞职读博？
已经有3人回复
-
论文终于录用啦！满足毕业条件了
已经有26人回复
-
2026年机械制造与材料应用国际会议 （ICMMMA 2026）
已经有4人回复
-
Cas 72-43-5需要30g，定制合成，能接单的留言
已经有8人回复
-
北京211副教授，35岁，想重新出发，去国外做博后，怎么样？
已经有8人回复
-
自荐读博
已经有3人回复
pippi6
铁杆木虫 (著名写手)
工程和科学数值计算咨询
- 应助: 413 (硕士)
- 贵宾: 0.002
- 金币: 7116.5
- 散金: 15
- 红花: 63
- 帖子: 1639
- 在线: 798.9小时
- 虫号: 2469437
- 注册: 2013-05-14
- 专业: 计算数学与科学工程计算
2楼2013-05-23 11:38:31
icecream8508
金虫 (著名写手)
- 应助: 6 (幼儿园)
- 金币: 939.6
- 散金: 72
- 红花: 18
- 帖子: 1537
- 在线: 557.8小时
- 虫号: 630888
- 注册: 2008-10-19
- 专业: 污染控制化学
3楼2013-05-23 12:24:50
忆如沉
银虫 (小有名气)
- 应助: 20 (小学生)
- 金币: 460.5
- 帖子: 138
- 在线: 83.7小时
- 虫号: 2196842
- 注册: 2012-12-20
- 性别: GG
- 专业: 信号理论与信号处理
4楼2013-05-23 16:04:27