24小时热门版块排行榜    

查看: 4022  |  回复: 9
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

王展昭

新虫 (小有名气)

[交流] 今年不知道还有没有爬虫大神 已有8人参与

今年不知道还能还能用网络爬虫爬结果,上年有一个爬虫大神利用短暂的漏洞时间,爬了不少中标的项目

发自小木虫Android客户端
回复此楼

» 猜你喜欢

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

柠萌粉

铜虫 (正式写手)


小木虫: 金币+0.5, 给个红包,谢谢回帖
引用回帖:
3楼: originally posted by caiqing at 2021-08-10 12:04:13
为什么?
网站在那儿,我上网,你不用管我用啥手段吧。
不给做那,不给说这,,,,
限制太多、框架太多,必然将各种创新扼杀掉。...

楼上说的罪名是一方面,另一方面,网站是否允许爬虫是有行规的,会写一个robots.txt的文件放在网站根目录
看看isisn是怎么写的(https://isisn.nsfc.gov.cn/robot.txt):
user-agent: *
disallow: /
第二行的意思就是,所有目录都不允许爬取。
当然可以无视这个文件,但是这个文件代表了官方的态度

不过不得不吐槽一下他们负责网站建设的人,这个robot.txt应该写成robots.txt,这个错误导致了百度在爬他们的网站
7楼2021-08-10 12:17:34
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 10 个回答

楞严金刚

禁虫 (小有名气)


小木虫: 金币+0.5, 给个红包,谢谢回帖
本帖内容被屏蔽

2楼2021-08-10 11:58:51
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

caiqing

铁杆木虫 (著名写手)


小木虫: 金币+0.5, 给个红包,谢谢回帖
引用回帖:
2楼: originally posted by 楞严金刚 at 2021-08-10 11:58:51
这是违法的有被判刑的

无语
3楼2021-08-10 12:04:13
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

王展昭

新虫 (小有名气)

引用回帖:
2楼: Originally posted by 楞严金刚 at 2021-08-10 11:58:51
这是违法的有被判刑的

原则上是的,不过上年延期了一个月,大家都等的心浮气躁,另外,基金委也没那么小气

发自小木虫Android客户端
4楼2021-08-10 12:05:08
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通表情 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 材料与化工 323 英一+数二+物化,一志愿:哈工大 本人本科双一流 +4 自由的_飞翔 2026-03-13 5/250 2026-03-14 19:39 by hmn_wj
[考研] 复试调剂 +4 z1z2z3879 2026-03-14 5/250 2026-03-14 16:30 by JourneyLucky
[考研] 0831生医工307分 求调剂 +3 小小怪wx 2026-03-08 3/150 2026-03-14 03:36 by JourneyLucky
[考研] 求调剂 +3 清风问长安 2026-03-09 3/150 2026-03-14 02:15 by JourneyLucky
[考研] 333求调剂 +3 球球古力 2026-03-09 3/150 2026-03-14 01:57 by JourneyLucky
[考研] 环境调剂 +6 晓看天暮看云 2026-03-09 6/300 2026-03-14 01:16 by JourneyLucky
[考研] 265求调剂 +9 小木虫085600 2026-03-09 12/600 2026-03-14 01:11 by JourneyLucky
[考研] 材料371求调剂 +9 鳄鱼? 2026-03-11 11/550 2026-03-13 22:53 by JourneyLucky
[考研] 0703化学调剂 +4 快乐的香蕉 2026-03-11 4/200 2026-03-13 22:41 by JourneyLucky
[考研] 求调剂 +7 18880831720 2026-03-11 7/350 2026-03-13 16:10 by JourneyLucky
[考研] 307求调剂 +5 超级伊昂大王 2026-03-12 5/250 2026-03-13 15:56 by 棒棒球手
[考研] 求调剂 +3 程雨杭 2026-03-12 3/150 2026-03-13 15:06 by JourneyLucky
[考研] 材料301分求调剂 +5 Liyouyumairs 2026-03-12 5/250 2026-03-13 14:42 by JourneyLucky
[考研] 308求调剂 +3 是Lupa啊 2026-03-12 3/150 2026-03-13 14:30 by 求调剂zz
[考研] 一志愿江南大学085701环境工程专硕总分287求调剂 +5 18266118446 2026-03-09 5/250 2026-03-11 16:51 by 2020015
[考研] 材料工程307,求调剂 +7 我要燃烧你的梦 2026-03-08 7/350 2026-03-11 09:09 by 剑诗杜康
[考研] 哈工大材料324求调剂 +6 闫旭东 2026-03-10 8/400 2026-03-10 22:49 by 星空星月
[考研] 327分求调剂086 +4 西红柿?小帅 2026-03-09 7/350 2026-03-10 14:47 by ruiyingmiao
[考研] 一志愿:武汉理工,材料工程,英二数二 总分314 +3 2202020125 2026-03-10 4/200 2026-03-10 13:54 by xiongyaxuan
[考研] 求调剂,数一英一274分 +4 小菲会努力 2026-03-08 4/200 2026-03-09 12:40 by 一定上岸哟_
信息提示
请填处理意见