| 查看: 991 | 回复: 3 | |||
icecream8508金虫 (著名写手)
|
[交流]
在程序中采用DEXP指数函数，但是计算结果提示Math-exp overflow error 已有2人参与
|
|
在程序中采用DEXP指数函数，但是计算结果提示Math-exp overflow error。 将每一步输出，发现在经过一次迭代后，DEXP的指数变成1441了，这已经超过For90中双精度的最大表数范围了？ 这可如何是好？ 一般这种问题，是算法的问题哪？还是别的问题哪？ |
回复此楼» 猜你喜欢
售SCI一区T0P文章，我:8O.55.1.O.5.4,科目齐全,可+急
已经有5人回复
-
售SCI-T0P文章，我:8O.5.5.1.O.54,科目齐全,可+急
已经有7人回复
-
上海工程技术大学 激光智能制造课题组 2027级博士研究生招生
已经有6人回复
-
课题组招2027级博士 上海工程技术大学 激光智能制造方向
已经有6人回复
-
现代”学阀”该如何界定
已经有14人回复
-
求合成方法
已经有8人回复
-
师弟论文见刊大半年才想起来申请专利，还能抢救一下吗？
已经有4人回复
-
有机合成以后会不会被AI改变？做科研的虫友怎么看
已经有8人回复
-
我的奶奶
已经有3人回复
pippi6
铁杆木虫 (著名写手)
工程和科学数值计算咨询
- 应助: 413 (硕士)
- 贵宾: 0.002
- 金币: 7116.5
- 散金: 15
- 红花: 63
- 帖子: 1639
- 在线: 798.9小时
- 虫号: 2469437
- 注册: 2013-05-14
- 专业: 计算数学与科学工程计算
2楼2013-05-23 11:38:31
icecream8508
金虫 (著名写手)
- 应助: 6 (幼儿园)
- 金币: 939.6
- 散金: 72
- 红花: 18
- 帖子: 1537
- 在线: 557.8小时
- 虫号: 630888
- 注册: 2008-10-19
- 专业: 污染控制化学
3楼2013-05-23 12:24:50
忆如沉
银虫 (小有名气)
- 应助: 20 (小学生)
- 金币: 460.5
- 帖子: 138
- 在线: 83.7小时
- 虫号: 2196842
- 注册: 2012-12-20
- 性别: GG
- 专业: 信号理论与信号处理
4楼2013-05-23 16:04:27