| 查看: 866 | 回复: 3 | |||
icecream8508金虫 (著名写手)
|
[交流]
在程序中采用DEXP指数函数，但是计算结果提示Math-exp overflow error 已有2人参与
|
|
在程序中采用DEXP指数函数，但是计算结果提示Math-exp overflow error。 将每一步输出，发现在经过一次迭代后，DEXP的指数变成1441了，这已经超过For90中双精度的最大表数范围了？ 这可如何是好？ 一般这种问题，是算法的问题哪？还是别的问题哪？ |
回复此楼» 猜你喜欢
0703 物理化学调剂
已经有5人回复
-
化学工程321分求调剂
已经有7人回复
-
0703化学调剂 290分有科研经历，论文在投
已经有7人回复
-
308求调剂
已经有3人回复
-
本人考085602 化学工程 专硕
已经有10人回复
-
焦虑
已经有9人回复
-
0856求调剂
已经有3人回复
-
283求调剂
已经有11人回复
-
深圳大学硕士招生（2026秋，传感器方向，仅录取第一志愿）
已经有8人回复
-
0703化学调剂
已经有7人回复
pippi6
铁杆木虫 (著名写手)
工程和科学数值计算咨询
- 应助: 413 (硕士)
- 贵宾: 0.002
- 金币: 7116.5
- 散金: 15
- 红花: 63
- 帖子: 1639
- 在线: 798.9小时
- 虫号: 2469437
- 注册: 2013-05-14
- 专业: 计算数学与科学工程计算
2楼2013-05-23 11:38:31
icecream8508
金虫 (著名写手)
- 应助: 6 (幼儿园)
- 金币: 939.6
- 散金: 72
- 红花: 18
- 帖子: 1537
- 在线: 557.8小时
- 虫号: 630888
- 注册: 2008-10-19
- 专业: 污染控制化学
3楼2013-05-23 12:24:50
忆如沉
银虫 (小有名气)
- 应助: 20 (小学生)
- 金币: 460.5
- 帖子: 138
- 在线: 83.7小时
- 虫号: 2196842
- 注册: 2012-12-20
- 性别: GG
- 专业: 信号理论与信号处理
4楼2013-05-23 16:04:27
20