24小时热门版块排行榜    

查看: 2649  |  回复: 2
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

afu2007

铁杆木虫 (职业作家)

[求助] MFC中调用_wtof函数将cstring类型的变量转变为float类型的变量时候,数值变了?已有1人参与

系统版本:VS2012
比如将数值        L"1.123"        类型:ATL::CStringT<wchar_t,StrTraitMFC_DLL<wchar_t,ATL::ChTraitsCRT<wchar_t> > >
作为_wtof的输入,则_wtof的输出为:1.12300003        类型为float
输入输出值不一致
对于其他数值也有类似的问题,为什么呀?怎么解决?
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yalefield

金虫 (文坛精英)

老汉一枚

CStdioFile的函数ReadString
3楼2014-05-18 15:42:38
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 3 个回答

yalefield

金虫 (文坛精英)

老汉一枚

【答案】应助回帖

★ ★ ★ ★ ★ ★ ★ ★ ★ ★
感谢参与,应助指数 +1
afu2007: 金币+10, ★★★★★最佳答案, 还想问一下,MFC的CFile类,有没有什么命令直接可以读一行数据的? 2014-05-18 11:34:06
当然有误差,这是不可避免的。
考虑用double,会好一些。

建议:
(1)张正秋. 数值计算与数据处理编程与实践. 清华大学出版社. 2011年.
       第五章 高精度计算程序设计
(2)刘纯根. 浮点计算编程原理、实现与应用. 机械工业出版社. 2008年.(此书稍难)
2楼2014-05-11 18:49:37
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
信息提示
请填处理意见