24小时热门版块排行榜    

查看: 2514  |  回复: 4

taochn

铁杆木虫 (著名写手)

[交流] [转自:科学网]NSF开创新的基金评审方法 已有4人参与

基金评审方法采用同行评价,但由于需要申请人回避参与同一领域的评价,必然导致参与评审的真正同行数量的减少。尤其是一些相对冷门的专业,这种申请人回避制度必然导致外行评价内行的结局。如何克服这一缺陷,美国科学基金(NSF)最近尝试了一种新的基金评审方案,可能会成为将来基金评审方法的典范。

NSF最近尝试的这种新的基金评审方案,就是强制所有竞争者必须完成评价竞争者7份申请书,这一方案完全不同于过去的申请人回避制度,通过精密设计和实际运行,发现这种方案取得不可思议的效果。这应该成为我们基金管理部门和管理者认真学习的一种好方法。



申请人不能作为同类项目的评审人,是基金申请过程中经常采用的回避制度。32年担任作为NSF项目主管George Hazelrigg对这个规则非常熟悉。去年,Hazelrigg得到许可检验这个规则。随着申请数量增加,资助比例下降,基金管理人员和评审人的压力越来越大,为了缓解这种压力,Hazelrigg组织了一次实验。他反其道而行之,不仅让申请人作为评审人,而且要求他们必须评审7份申请才能获得自己申请书被评审的条件。这听上去有点不靠谱。但是工程领域的科学家对此保持乐观,10月1日前提交的申请书超过过去的60%。初步评估结果表明,采用通讯评审取代过去的会议评审,不仅可以节省时间和开支,而且能提高评审质量。

NSF现在考虑推广这种评审方法。天文学也采用了这种方法,双子星天文台将采用同样的评审方法,决定如何分配夏威夷岛天文望远镜使用时间分配方案。夏威夷岛天文望远镜总协调人Rachel Mason说,寻找理想评审人是花费时间,正变得越来越困难。这种方式是一次重大转变,科学家会发现有机会阅读竞争者申请书是一件快乐的事情。

基金管理人员非常熟悉传统基金评审过程存在的尴尬。原来的系统依靠评审人的个人意愿,而且受到评审人空余时间的限制,随着申请书数量的增加,资助比例下降,潜在符合资格的评审人必然越来越少,使这种矛盾越来越突出。例如NSF去年收到49000份申请书,比2001年增加53%,但是经费总额并没有成比例增加。意味着资助比例从31%降低到22%。

这一变化带来的突出问题,评审经费和评审人时间支出双双增加,这已经引起评审人的抱怨。因为从整体上,这些科学家付出增加,但是获得资助的几率下降。

为了克服这一困局,Hazelrigg最容易采用的一个手段是限制申请规模,这显然也不是理想办法,他也不想采用。2009年Astronomy & Geophysics一篇文章“Telescope time without tears: a distributed approach to peer review.”给Hazelrigg带来灵感。

文章共同作者英国诺丁汉大学天文学家Michael Merrifield说,使用欧洲南方天文台的申请书113项一下放在他桌面上,他根本没有那么多时间仔细阅读,这种蹩脚评审方法到了不改不行时候了。

于是Merrifield和加州大学数学家Donald Saari联合研究一种新的评审系统。Donald Saari是研究表决系统的专家,他建议Merrifield了解一种激进选择radical alternative的思路。该思路依据数学游戏原理,让竞争者接近实现目标的规则方式。NSF的例子中,根据贡献度大小分配申请资格能激励申请者更好完成评审工作,NSF发布申请指南中,要求申请者必须承诺评审7份竞争者申请书的任务才有资格申请。除相互评审外,使用NSF5分制评价系统对申请书进行分级评价,同时也要对7份申请书从好到坏进行排序。Hazelrigg说选择7份评审任务能有效限制那些无聊申请人,因为他们提交任何申请都必须付出评价7份评审任务的代价。同时,这些科学家在评审过程中也会非常慎重,随意评审会导致不公平的结果,逼迫他们选择公平评价标准。

Hazelrigg说他们用了一年获得批准这一试验。2013年5月通过一封信告诉所有可能的申请人。每个在10月份提交申请书的申请人必须无条件接受这个方案。如果坚持不同意这个方案的申请人可以在2014年2月前提交申请书。

结果申请人对这个模式非常认同,NSF最终接受到131份申请,比过去平均超过50份。

布莱克斯堡大学生物工程学家Rolf Mueller是申请人之一,他说参加这个实验不需要犹豫。他知道提交申请需要同意参加评审。阅读其他竞争者的申请书是非常有意思的。南佛罗里达大学电子工程学家Arash Takshi也参与了申请,他说阅读别人的申请书让他学习到东西,申请人通过阅读竞争者的申请书可清楚知道自己无法被资助的原因是自己的申请书质量不过关,而不是别的原因。Takshi说自己花费30个小时阅读7份申请书。

NSF的官方说法是他们的试验非常成功。每个申请书都收到7份以上的高质量评价意见,过去的方法只能获得3-4份这样的意见。Hazelrigg强调,每个评价意见都比较全面,评价质量虽然不能按照这个为标准,但是评价更为客观真实。通过对60%申请人的评审过程进行分析,发现只有一位没有按照在6周期限内提交评价意见。

出处:http://blog.sciencenet.cn/blog-41174-812666.html
回复此楼

» 收录本帖的淘帖专辑推荐

film

» 猜你喜欢

» 本主题相关价值贴推荐,对您同样有帮助:

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

hekouyanlei

铁杆木虫 (著名写手)


小木虫: 金币+0.5, 给个红包,谢谢回帖
很好,可是咱们能做到么
2楼2014-07-18 15:18:57
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

goodigo

捐助贵宾 (正式写手)

同意

[ 发自小木虫客户端 ]
3楼2014-07-18 15:44:18
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

小米虫虫

金虫 (小有名气)


小木虫: 金币+0.5, 给个红包,谢谢回帖
算了,现在的状态都麻烦弊端不断

[ 发自手机版 http://muchong.com/3g ]
每个人都有属于自己的路,那条路你必须要走,因为你灵魂的某块碎片就在路的尽头等你,不找到它,你就不完整。
4楼2014-07-18 18:11:10
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

ibaojr

木虫 (知名作家)

土鳖


小木虫: 金币+0.5, 给个红包,谢谢回帖
这个感觉不合适吧?万一某申请人心术不正,为了自己的私利,让自己的本子尽量排序靠前,评审结果搞了个逆序的结果,反正优缺点漏洞按需要像模像样写一下,优秀者肯定被拉后腿了,他自己反倒排名靠前了,还是不公平!

[ 发自手机版 http://muchong.com/3g ]
何不潇洒衰一回
5楼2014-07-18 18:18:52
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 taochn 的主题更新
普通表情 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[硕博家园] 售SCI文章,我:8O.5.5.1O.54,科目全,可十急 +3 63GmZBFV29mG 2026-08-29 5/250 2026-08-31 03:42 by hZiFeudZyoGR
[硕博家园] 售SCI一区T0P文章,我:8.O.55.1.O54,科目全,可伽急 +3 4FFAWE8HcgUD 2026-08-29 5/250 2026-08-31 03:31 by hZiFeudZyoGR
[考博] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +5 jCd0dEvKHShX 2026-08-29 8/400 2026-08-31 02:45 by hZiFeudZyoGR
[博后之家] 售SCI文章,我:8O.5.5.1O.54,科目全,可十急 +6 gy1nBQXYQJqL 2026-08-29 9/450 2026-08-31 01:05 by hZiFeudZyoGR
[考博] 售SCI一区文章,我:8O5.5.1.O5.4,科目全,可伽急 +3 4FFAWE8HcgUD 2026-08-29 4/200 2026-08-30 20:40 by hZiFeudZyoGR
[找工作] 售SCI文章,我:8O5.5.1.O.54,科目齐全,可+急 +3 4FFAWE8HcgUD 2026-08-29 5/250 2026-08-30 20:29 by hZiFeudZyoGR
[论文投稿] 售SCI一区T0P文章,我:8O.55.1.O.5.4,科目齐全,可+急 +3 jCd0dEvKHShX 2026-08-29 4/200 2026-08-30 19:57 by hZiFeudZyoGR
[找工作] 售SCI一区T0P文章,我:8.O55.1.O.54,科目全,可十急 +3 jCd0dEvKHShX 2026-08-29 4/200 2026-08-30 19:35 by hZiFeudZyoGR
[考博] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +4 gy1nBQXYQJqL 2026-08-29 6/300 2026-08-30 18:20 by hZiFeudZyoGR
[考博] 找导师 +6 yuanjiabao 2026-08-29 7/350 2026-08-30 14:40 by 生科新手
[找工作] 售SCI一区T0P文章,我:8O.55.1.O.54,科目全,可伽急 +4 gy1nBQXYQJqL 2026-08-29 8/400 2026-08-30 12:03 by l0VvVHGBGRLv
[找工作] 售SCI文章,我:8O5.5.1.O.54,科目齐全,可+急 +6 ASdOkHsho7FD 2026-08-28 9/450 2026-08-30 11:19 by l0VvVHGBGRLv
[基金申请] 29号明天会评吗 +3 笨笨唐 2026-08-28 3/150 2026-08-30 09:29 by cww8181
[基金申请] 我就是申请一个面上项目而已,这评审意见是按照杰青的条件评的吧? +6 gouxfjh 2026-08-28 11/550 2026-08-30 07:57 by gouxfjh
[教师之家] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +5 ASdOkHsho7FD 2026-08-28 8/400 2026-08-30 05:48 by ZPa0EcMwuECS
[基金申请] 看板上这么多中的,有点像50人群里49个人都是骗子的那种感觉…… +5 a089 2026-08-26 6/300 2026-08-27 14:05 by jonewore
[文学芳草园] 梦想 +3 myrtle 2026-08-26 3/150 2026-08-27 10:01 by angelyueyi
[基金申请] 为什么 国际(地区)合作与交流项目 没有放榜? 10+3 majunge000 2026-08-26 11/550 2026-08-27 08:42 by 北京莱茵编辑
[基金申请] 出来了 +9 trojank 2026-08-26 9/450 2026-08-26 14:25 by 宝贝虫子
[基金申请] 在坚冰还盖着北海的时候,我看到了怒放的梅花。 (金币+10) +6 ziyangfang 2026-08-25 9/450 2026-08-25 20:26 by huagongfeihu
信息提示
请填处理意见