| 查看: 870 | 回复: 3 | |||
icecream8508金虫 (著名写手)
|
[交流]
在程序中采用DEXP指数函数，但是计算结果提示Math-exp overflow error 已有2人参与
|
|
在程序中采用DEXP指数函数，但是计算结果提示Math-exp overflow error。 将每一步输出，发现在经过一次迭代后，DEXP的指数变成1441了，这已经超过For90中双精度的最大表数范围了？ 这可如何是好？ 一般这种问题，是算法的问题哪？还是别的问题哪？ |
回复此楼» 猜你喜欢
281求调剂
已经有6人回复
-
华南理工0703化学，总分336求调剂
已经有6人回复
-
285求调剂
已经有12人回复
-
085600材料与化工301分求调剂院校
已经有13人回复
-
295求调剂
已经有11人回复
-
材料与化工专硕306分找合适调剂
已经有3人回复
-
0703调剂，一志愿天津大学319分
已经有11人回复
-
求调剂
已经有21人回复
-
材料专硕(0856) 339分求调剂
已经有10人回复
-
319求调剂
已经有3人回复
pippi6
铁杆木虫 (著名写手)
工程和科学数值计算咨询
- 应助: 413 (硕士)
- 贵宾: 0.002
- 金币: 7116.5
- 散金: 15
- 红花: 63
- 帖子: 1639
- 在线: 798.9小时
- 虫号: 2469437
- 注册: 2013-05-14
- 专业: 计算数学与科学工程计算
2楼2013-05-23 11:38:31
icecream8508
金虫 (著名写手)
- 应助: 6 (幼儿园)
- 金币: 939.6
- 散金: 72
- 红花: 18
- 帖子: 1537
- 在线: 557.8小时
- 虫号: 630888
- 注册: 2008-10-19
- 专业: 污染控制化学
3楼2013-05-23 12:24:50
忆如沉
银虫 (小有名气)
- 应助: 20 (小学生)
- 金币: 460.5
- 帖子: 138
- 在线: 83.7小时
- 虫号: 2196842
- 注册: 2012-12-20
- 性别: GG
- 专业: 信号理论与信号处理
4楼2013-05-23 16:04:27
