您好,欢迎访问网站,我们将竭诚为您服务!

如何判断是否冒充Baiduspider的抓取?

2025-01-08分类:规则算法 阅读:34

建议您使用DNS反向查找和DNS正向查找相结合的方式来确定抓取来源的ip是否属于百度,根据平台不同验证方法不同,如linux/windows/os三种平台下的验证方法分别如下:

6.1 在linux平台下:(1)使用host ip命令反解ip来判断是否来自Baiduspider的抓取。Baiduspider的hostname以 *.baidu.com 或 *.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。(2)使用host命令对第一步中的检索到的域名运行DNS正向查找,验证该域名与访问服务器的原始ip地址是否一致。

示例1:

$ host 123.125.66.120 120.66.125.123.in-addr.arpa domain name pointer baiduspider-123-125-66-120.crawl.baidu.com.

$ host baiduspider-123-125-66-120.crawl.baidu.com

baiduspider-123-125-66-120.crawl.baidu.com has address 123.125.66.120

示例2:

$host 119.63.195.254

254.195.63.119.in-addr.arpa domain name pointer BaiduMobaider-119-63-195-254.crawl.baidu.jp.

$host BaiduMobaider-119-63-195-254.crawl.baidu.jp

BaiduMobaider-119-63-195-254.crawl.baidu.jp has address 119.63.195.254

6.2 在windows平台或者IBM OS/2平台下:(1)使用nslookup ip命令反解ip来 判断是否来自Baiduspider的抓取。打开命令处理器 输入nslookup xxx.xxx.xxx.xxx(IP地 址)就能解析ip, 来判断是否来自Baiduspider的抓取,Baiduspider的hostname以 *.baidu.com 或 *.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。(2)使用 nslookup命令对第一步中检索到的域名进行DNS正向查找,验证该域名与访问服务器的原始ip地址是否一致。

6.3 在mac os平台下:(1)使用dig 命令反解ip来判断是否来自Baiduspider的抓取。打开命令处理器 输入dig xxx.xxx.xxx.xxx(IP地 址)就能解析ip,来判断是否来自Baiduspider的抓取,Baiduspider的hostname以 *.baidu.com 或 *.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充;(2)使用 dig命令对第一步中检索到的域名进行DNS正向查找,验证该域名与访问服务器的原始ip地址是否一致。


郑重声明:部分文章来源于网络,仅作为参考,如果网站中图片和文字侵犯了您的版权,请联系我们处理!

上一篇:我不想我的网站被Baiduspider访问,我该怎么做?

下一篇:为什么Baiduspider不停的抓取我的网站?

相关推荐


关注我们

    如何判断是否冒充Baiduspider的抓取?-规则算法-专注SEO与网络营销推广的自媒体博客-免费开放的资源
返回顶部