24小时热门版块排行榜    

查看: 453  |  回复: 1

yuanmd

至尊木虫 (知名作家)

衔头义定自

[求助] 关于实验评价方法cross validation and jackknife testing?

之前投过一篇模式分类的文章,用了几个人脸数据库做实验。
做法是将数据随机地分成训练集(Train Data)和测试集(Test Data),然后重复10次。具体地说,随机机从每类选取P个样本作为训练,剩下的样本作为测试,这个过程重复10次,取平均结果作为实验结果。参数是直接在测试集上取的,选择的是测试集上性能最好的参数。

有一审稿人说,这种随机取法太简单,不太科学。建议用类似于cross validation and jackknife testing的方法。

1) cross validation我知道,但是有一个问题,如果我用交叉验证的话,每个算法在一个数据库上就只有一个结果。比如,将整个数据集均分为10份,依次将其中一份作为测试,剩下9份作为训练。这样得到10个测试结果,取平均作为最终结果。

可是我又想测试算法在不同训练样本下的识别性能(比如P依次取2,3,4,5,6),这怎么办呢?

不知道下面的方法是否可行:我从每类中随机取P个样本作为训练,将剩下的样本平均分成验证集(Validation Data)和测试集(Test Data)。用训练集训练,用验证集求一个性能最好的参数,参数求好之后,再将该参数带入训练集求模型,最后用测试集测试。把上面的过程重复10次,用10次测试集的平均结果作为最终性能。

但是严格意义上来说,上面的方法并不是cross validation。审稿人会不会不认啊?

2)对于jackknife testing,我搜索了一下,说像bootstrap,但不并不清楚如何弄的。我只用cross validation可否?审稿意见的原话是
I suggest the author should conduct more exhaustive validation of the test result data using techniques like cross validation and jackknife testing.

感谢大家,金币后期可再追加!
回复此楼

» 猜你喜欢

梦想总是要有的,万一实现了呢?
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yuanmd

至尊木虫 (知名作家)

衔头义定自

梦想总是要有的,万一实现了呢?
2楼2017-11-18 10:35:44
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 yuanmd 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 一志愿070300浙大化学358分,求调剂! +4 酥酥鱼.. 2026-03-21 4/200 2026-03-23 08:12 by Iveryant
[考研] 一志愿北京化工大学 070300 学硕 336分 求调剂 +5 vv迷 2026-03-22 5/250 2026-03-23 07:36 by Iveryant
[考研] 293求调剂 +12 zjl的号 2026-03-16 17/850 2026-03-22 16:51 by i_cooler
[考研] 311求调剂 +3 26研0 2026-03-20 3/150 2026-03-22 14:46 by ColorlessPI
[考研] 318求调剂 +4 plum李子 2026-03-21 7/350 2026-03-22 14:17 by ColorlessPI
[考研] 0856材料专硕353求调剂 +4 NIFFFfff 2026-03-20 4/200 2026-03-22 09:49 by 2026paper
[考研] 297求调剂 +3 喜欢还是不甘心 2026-03-20 3/150 2026-03-21 18:33 by 学员8dgXkO
[考研] 299求调剂 +5 shxchem 2026-03-20 7/350 2026-03-21 17:09 by ColorlessPI
[考研] 265求调剂 +9 梁梁校校 2026-03-17 9/450 2026-03-21 02:17 by JourneyLucky
[考研] 材料专业求调剂 +6 hanamiko 2026-03-18 6/300 2026-03-21 00:24 by JourneyLucky
[考研] 南京大学化学376求调剂 +3 hisfailed 2026-03-19 6/300 2026-03-20 23:43 by hisfailed
[考研] 304求调剂 +7 司空. 2026-03-18 7/350 2026-03-20 23:08 by JourneyLucky
[考研] 317求调剂 +5 申子申申 2026-03-19 9/450 2026-03-20 22:26 by JourneyLucky
[考研] 求调剂,一志愿:南京航空航天大学大学 ,080500材料科学与工程学硕,总分289分 +4 @taotao 2026-03-19 4/200 2026-03-20 22:14 by JourneyLucky
[考研] 中南大学化学学硕337求调剂 +3 niko- 2026-03-19 6/300 2026-03-20 21:58 by luoyongfeng
[考研] 求调剂一志愿南京航空航天大学289分 +3 @taotao 2026-03-19 3/150 2026-03-20 21:34 by JourneyLucky
[考研] 一志愿吉林大学材料学硕321求调剂 +11 Ymlll 2026-03-18 15/750 2026-03-20 19:40 by 丁丁*
[考研] 工科材料085601 279求调剂 +7 困于星晨 2026-03-17 9/450 2026-03-20 17:38 by 无懈可击111
[考研] 材料工程专硕调剂 +5 204818@lcx 2026-03-17 6/300 2026-03-18 22:55 by 204818@lcx
[硕博家园] 湖北工业大学 生命科学与健康学院-课题组招收2026级食品/生物方向硕士 +3 1喜春8 2026-03-17 5/250 2026-03-17 17:18 by ber川cool子
信息提示
请填处理意见