24小时热门版块排行榜    

查看: 1205  |  回复: 11
当前主题已经存档。

magic7004

金虫 (职业作家)

★ ★
小木虫(金币+0.5):给个红包,谢谢回帖交流
wangen994(金币+1,VIP+0):欢迎参与讨论,呵呵 1-19 10:40
最小的数只有20,最大的数2.53926E+14,如果不选择精度足够足够高的数据类型和算法的话,算出来一定不准的。

估计是FORTRAN、EXCEL和MATLAB用的算法不一样或者数据精度不一样,所以结果不一样。
流氓不可怕,可怕的是流氓有文化,有文化又BH的流氓无敌~~!
11楼2010-01-19 08:30:58
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

magic7004

金虫 (职业作家)


jjdg(金币+1,VIP+0):这是数值分析的基础啊! 1-19 11:02
举个例子,假设都是整数,那么1000*2/1000 = 20 但是1000*( 2/1000)= 0
流氓不可怕,可怕的是流氓有文化,有文化又BH的流氓无敌~~!
12楼2010-01-19 08:34:50
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 yanggis 的主题更新
普通表情 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 售T0P一区SCI文章,我:8O5.51.O.54,科目齐全,可+急 +3 9g0rmhtq5w 2026-06-27 5/250 2026-06-28 12:10 by jjz01vuwzk
[有机交流] 双环[1.1.0]丁烷(bcb)合成 +3 郭ya 2026-06-27 5/250 2026-06-28 11:55 by czyzsu
[找工作] 售T0P一区SCI文章,我:8O5.51.O.54,科目齐全,可+急 +3 9g0rmhtq5w 2026-06-27 5/250 2026-06-28 11:50 by jjz01vuwzk
[博后之家] 售T0P一区SCI文章,我:8O5.51.O.54,科目齐全,可+急 +4 dheqf6rz6n 2026-06-27 5/250 2026-06-28 11:28 by jjz01vuwzk
[硕博家园] 售T0P一区SCI文章,我:8O5.51.O.54,科目齐全,可+急 +4 dheqf6rz6n 2026-06-27 9/450 2026-06-28 11:07 by jjz01vuwzk
[论文投稿] 售T0P一区SCI文章,我:8O5.51.O.54,科目齐全,可+急 +3 cecivpkiq7 2026-06-26 9/450 2026-06-28 10:27 by jjz01vuwzk
[考研] 售T0P一区SCI文章,我:8O5.51.O.54,科目齐全,可+急 +3 7s8du2bt8y 2026-06-26 7/350 2026-06-28 10:08 by jjz01vuwzk
[基金申请] 第三年,祈求好运! +3 jinna0909 2026-06-25 5/250 2026-06-28 09:53 by ustc14wz
[硕博家园] 售T0P一区SCI文章,我:8O5.51.O.54,科目齐全,可+急 +5 7s8du2bt8y 2026-06-26 10/500 2026-06-28 09:49 by jjz01vuwzk
[教师之家] 售T0P一区SCI文章,我:8O5.51.O.54,科目齐全,可+急 (EPI+-1)(金币-50) +3 yig756cogn 2026-06-26 5/250 2026-06-28 06:07 by jjz01vuwzk
[考博] 售T0P一区SCI文章,我:8O5.51.O.54,科目齐全,可+急 +3 dheqf6rz6n 2026-06-27 3/150 2026-06-28 03:09 by jjz01vuwzk
[找工作] 售T0P一区SCI文章,我:8O5.51.O.54,科目齐全,可+急 +3 dheqf6rz6n 2026-06-27 5/250 2026-06-28 03:07 by jjz01vuwzk
[考博] 售T0P一区SCI文章,我:8O5.51.O.54,科目齐全,可+急 +3 dheqf6rz6n 2026-06-27 4/200 2026-06-28 02:49 by jjz01vuwzk
[考博] 27年博士招生信息 +5 rvnc 2026-06-26 8/400 2026-06-27 18:32 by rvnc
[基金申请] 无聊看看时间戳打发时间 +8 虎鹤双形 2026-06-23 8/400 2026-06-27 15:53 by miaochunhui
[论文投稿] 求推荐期刊,重谢 +4 girlbaby 2026-06-23 4/200 2026-06-26 16:52 by 不打工牛马
[有机交流] 反应求助 10+3 slz_1986 2026-06-24 6/300 2026-06-25 21:38 by nBu锂
[论文投稿] 基于自然哲学类比的风化壳型稀土矿 +4 太一新韵 2026-06-22 16/800 2026-06-25 18:53 by 太一新韵
[基金申请] 2026年WR青拔进展 +5 chs564851482 2026-06-24 7/350 2026-06-24 18:15 by chs564851482
[基金申请] 国自然申请五篇代表作大比拼,感觉这个是最重要的 +7 naalan7001 2026-06-22 12/600 2026-06-24 14:02 by naalan7001
信息提示
请填处理意见