24小时热门版块排行榜    

查看: 4000  |  回复: 9
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

王展昭

新虫 (小有名气)

[交流] 今年不知道还有没有爬虫大神 已有8人参与

今年不知道还能还能用网络爬虫爬结果,上年有一个爬虫大神利用短暂的漏洞时间,爬了不少中标的项目

发自小木虫Android客户端
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

柠萌粉

铜虫 (正式写手)


小木虫: 金币+0.5, 给个红包,谢谢回帖
引用回帖:
3楼: originally posted by caiqing at 2021-08-10 12:04:13
为什么?
网站在那儿,我上网,你不用管我用啥手段吧。
不给做那,不给说这,,,,
限制太多、框架太多,必然将各种创新扼杀掉。...

楼上说的罪名是一方面,另一方面,网站是否允许爬虫是有行规的,会写一个robots.txt的文件放在网站根目录
看看isisn是怎么写的(https://isisn.nsfc.gov.cn/robot.txt):
user-agent: *
disallow: /
第二行的意思就是,所有目录都不允许爬取。
当然可以无视这个文件,但是这个文件代表了官方的态度

不过不得不吐槽一下他们负责网站建设的人,这个robot.txt应该写成robots.txt,这个错误导致了百度在爬他们的网站
7楼2021-08-10 12:17:34
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 10 个回答

楞严金刚

禁虫 (小有名气)


小木虫: 金币+0.5, 给个红包,谢谢回帖
本帖内容被屏蔽

2楼2021-08-10 11:58:51
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

caiqing

铁杆木虫 (著名写手)


小木虫: 金币+0.5, 给个红包,谢谢回帖
引用回帖:
2楼: originally posted by 楞严金刚 at 2021-08-10 11:58:51
这是违法的有被判刑的

无语
3楼2021-08-10 12:04:13
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

王展昭

新虫 (小有名气)

引用回帖:
2楼: Originally posted by 楞严金刚 at 2021-08-10 11:58:51
这是违法的有被判刑的

原则上是的,不过上年延期了一个月,大家都等的心浮气躁,另外,基金委也没那么小气

发自小木虫Android客户端
4楼2021-08-10 12:05:08
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通表情 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 新疆大学地质与矿业工程学院招生 +24 another12 2026-03-04 32/1600 2026-03-10 01:15 by 1111--
[考研] 材料调剂,307分 +8 张泳铭1 2026-03-09 8/400 2026-03-09 20:23 by 雾散后相遇lc
[考研] 一志愿南大化学339分求调剂,四六级已过,有比赛,有文章 +7 Gallantzhou 2026-03-07 7/350 2026-03-09 18:38 by 30660438
[考研] 0832食品科学与工程293调剂 +3 东东不東 2026-03-07 3/150 2026-03-09 15:58 by ls_13456
[考研] 334求调剂 +5 Trying] 2026-03-07 5/250 2026-03-09 14:47 by ruiyingmiao
[考研] 【求调剂】293分环境工程求调剂材料/化工,服从调剂,抗压能力强! +13 xiiiia 2026-03-04 14/700 2026-03-09 14:06 by macy2011
[考研] 材料工程330分求调剂,一志愿985 +3 小材化本科 2026-03-07 3/150 2026-03-09 05:35 by houyaoxu
[考研] 求调剂,一志愿江南大学,食品科学与工程,总分,320 +3 yyyyyukino 2026-03-07 3/150 2026-03-08 23:07 by 清风月
[考研] 286求调剂 +12 Faune 2026-03-06 14/700 2026-03-08 14:54 by hmn_wj
[考研] 337一志愿华南理工材料求调剂 +4 mysdl 2026-03-07 4/200 2026-03-08 11:00 by 无际的草原
[考研] 一志愿中国石油大学(华东) 本科齐鲁工业大学 求调剂 +3 snw石 2026-03-07 3/150 2026-03-07 20:01 by houyaoxu
[考研] 一志愿武汉理工085601,初试301分,请问能调剂到湖北吗 +3 肖yang 2026-03-06 3/150 2026-03-07 19:08 by ms629
[考研] 物理学求调剂 +3 sx宋 2026-03-05 3/150 2026-03-07 14:38 by lishahe
[考研] 一志愿南京大学资源与环境专业283分求调剂 +8 追云?? 2026-03-04 8/400 2026-03-07 09:23 by 斩魂滴兔子!
[考研] 306求调剂 +7 Bahati 2026-03-05 7/350 2026-03-06 22:11 by 星空星月
[考研] 08工科求调剂 +3 隆LLL 2026-03-06 4/200 2026-03-06 15:26 by 隆LLL
[考研] 271求调剂 +7 月色c 2026-03-05 8/400 2026-03-05 19:51 by wangjihu
[考研] 274环境工程求调剂 +6 扶柳盈江 2026-03-05 6/300 2026-03-05 13:16 by 梦天888
[考研] 085701环境工程 求调剂 +7 xiiiia 2026-03-04 7/350 2026-03-05 09:49 by 热情沙漠
[考研] 一志愿314求调剂 +7 202111120625 2026-03-03 7/350 2026-03-04 15:56 by zhukairuo
信息提示
请填处理意见