| 查看: 986 | 回复: 3 | |||
icecream8508金虫 (著名写手)
|
[交流]
在程序中采用DEXP指数函数，但是计算结果提示Math-exp overflow error 已有2人参与
|
|
在程序中采用DEXP指数函数，但是计算结果提示Math-exp overflow error。 将每一步输出，发现在经过一次迭代后，DEXP的指数变成1441了，这已经超过For90中双精度的最大表数范围了？ 这可如何是好？ 一般这种问题，是算法的问题哪？还是别的问题哪？ |
回复此楼» 猜你喜欢
售SCI一区T0P文章，我:8.O.55.1.O.5.4,科目全,可+急
已经有3人回复
-
售SCI一区T0P文章，我:8.O55.1.O.54,科目全,可十急
已经有4人回复
-
售SCI一区文章，我:8.O.55.1.O.54,科目齐全,可伽急
已经有3人回复
-
售SCI一区T0P文章，我:8O.55.1.O.54,科目全,可伽急
已经有4人回复
-
售SCI一区文章，我:8.O.55.1.O.54,科目齐全,可伽急
已经有5人回复
-
售SCI一区T0P文章，我:8O.55.1.O.5.4,科目齐全,可+急
已经有3人回复
-
售SCI一区文章，我:8.O.551.O.5.4,科目全,可伽急
已经有3人回复
-
售SCI一区T0P文章，我:8.O.55.1.O54,科目全,可伽急
已经有3人回复
-
售SCI一区文章，我:8O5.5.1.O5.4,科目全,可伽急
已经有4人回复
-
售SCI一区T0P文章，我:8O.55.1.O.54,科目全,可伽急
已经有4人回复
pippi6
铁杆木虫 (著名写手)
工程和科学数值计算咨询
- 应助: 413 (硕士)
- 贵宾: 0.002
- 金币: 7116.5
- 散金: 15
- 红花: 63
- 帖子: 1639
- 在线: 798.9小时
- 虫号: 2469437
- 注册: 2013-05-14
- 专业: 计算数学与科学工程计算
2楼2013-05-23 11:38:31
icecream8508
金虫 (著名写手)
- 应助: 6 (幼儿园)
- 金币: 939.6
- 散金: 72
- 红花: 18
- 帖子: 1537
- 在线: 557.8小时
- 虫号: 630888
- 注册: 2008-10-19
- 专业: 污染控制化学
3楼2013-05-23 12:24:50
忆如沉
银虫 (小有名气)
- 应助: 20 (小学生)
- 金币: 460.5
- 帖子: 138
- 在线: 83.7小时
- 虫号: 2196842
- 注册: 2012-12-20
- 性别: GG
- 专业: 信号理论与信号处理
4楼2013-05-23 16:04:27
