主页 > 知识库 > 搜索引擎爬虫蜘蛛的USERAGENT大全

搜索引擎爬虫蜘蛛的USERAGENT大全

热门标签:蒂森电梯外呼系统 宿州语音外呼系统运营商 台州400电话办理 海南营销智能外呼系统价格多少 讯飞语音电话机器人 揭阳稳定外呼系统平台 龙图博物馆地图标注 重庆电话电销机器人系统 合阳县地图标注
百度爬虫
* Baiduspider+(+http://www.baidu.com/search/spider.htm”)

google爬虫
* Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)
* Googlebot/2.1 (+http://www.googlebot.com/bot.html)
* Googlebot/2.1 (+http://www.google.com/bot.html)

雅虎爬虫(分别是雅虎中国和美国总部的爬虫)
*Mozilla/5.0 (compatible; Yahoo! Slurp China; http://misc.yahoo.com.cn/help.html”)
*Mozilla/5.0 (compatible; Yahoo! Slurp; http://help.yahoo.com/help/us/ysearch/slurp”)

新浪爱问爬虫
*iaskspider/2.0(+http://iask.com/help/help_index.html”)
*Mozilla/5.0 (compatible; iaskspider/1.0; MSIE 6.0)

搜狗爬虫
*Sogou web spider/3.0(+http://www.sogou.com/docs/help/webmasters.htm#07″)
*Sogou Push Spider/3.0(+http://www.sogou.com/docs/help/webmasters.htm#07″)

网易爬虫
*Mozilla/5.0 (compatible; YodaoBot/1.0; http://www.yodao.com/help/webmaster/spider/”; )

MSN爬虫
*msnbot/1.0 (+http://search.msn.com/msnbot.htm”)

标签:山南 湖南 遵义 安徽 大庆 回拨 贺州 新乡

巨人网络通讯声明:本文标题《搜索引擎爬虫蜘蛛的USERAGENT大全》,本文关键词  搜索引擎,爬虫,蜘蛛,的,;如发现本文内容存在版权问题,烦请提供相关信息告之我们,我们将及时沟通与处理。本站内容系统采集于网络,涉及言论、版权与本站无关。
  • 相关文章
  • 下面列出与本文章《搜索引擎爬虫蜘蛛的USERAGENT大全》相关的同类信息!
  • 本页收集关于搜索引擎爬虫蜘蛛的USERAGENT大全的相关信息资讯供网民参考!
  • 企业400电话

    智能AI客服机器人
    15000

    在线订购

    合计11份范本:公司章程+合伙协议+出资协议+合作协议+股权转让协议+增资扩股协议+股权激励+股东会决议+董事会决议

    推荐文章