robots协议怎么查看以及解释

学习爬虫首先就要知道什么东西是不能爬的。所以先来了解一下robots协议吧。

robots协议在哪看呢?
直接在目标网站后面加上/robots.txt就能看见了,以csdn为例
访问https://www.csdn.net/robots.txt,得到下面的信息:

User-agent: *
Disallow: /scripts
Disallow: /public
Disallow: /css/
Disallow: /images/
Disallow: /content/
Disallow: /ui/
Disallow: /js/
Disallow: /scripts/
Disallow: /article_preview.html*
Disallow: /tag/
Disallow: /?
Disallow: /link/
Sitemap: https://www.csdn.net/sitemap-aggpage-index.xml
Sitemap: https://www.csdn.net/article/sitemap.txt

User-agent: * 代表所有爬虫都要遵守下面的规则
disallow:就是不允许爬取的页面
有的还会有Allow
其他网站可能还会有各种有趣的协议,自己去看看吧!

    原文作者:成小七
    原文地址: https://blog.csdn.net/weixin_44074100/article/details/119250120
    本文转自网络文章,转载此文章仅为分享知识,如有侵权,请联系博主进行删除。
点赞