当前位置:论坛首页 > Linux面板 > Linux面板教程

Nginx防火墙-假蜘蛛拦截

发表在 Linux面板2024-7-16 14:31 [复制链接] 9 1178

Nginx防火墙-假蜘蛛拦截


这个不是实时去拦截的、需要这个IP访问过来。
60秒后会自动查询dns记录、查询完之后再一次访问就会拦截。

如果实时查询的话会阻塞这个请求。那么会导致这个请求会很慢。



2024-07-16 16:52 更新了一个功能、伪造的假蜘蛛拦截

微信图片_20240716165307.png

一旦识别为假蜘蛛就会直接封锁IP、
微信截图_20240716165412.png

例如这个IP 116.196.115.84 使用了BaiduSpider  。


但是通过IP查询是没任何信息的。
微信截图_20240716165500.png



需要注意的点:如果开启了CDN 。就一定要把CDN的选项打开。不然真正的蜘蛛会被拦截的。


如果不把CDN 选项点开。获取的IP是CDN的IP、然后使用的UA为
蜘蛛的UA 这个时候会直接封锁CDN的IP 、就会导致访问不了



对于真假蜘蛛如何鉴别

一、百度蜘蛛
Windows cmd 中执行 nslookup 后面跟IP
例如:nslookup  116.179.32.192

微信截图_20240717143333.png

如果出现baiduspider  那为真蜘蛛


二、谷歌蜘蛛

nslookup  34.100.182.103
微信截图_20240717143434.png

出现 googlebot 就代表为真蜘蛛

三、搜狗蜘蛛

nslookup 223.109.252.246

微信截图_20240717143547.png


出现sogouspider  为真蜘蛛


四、必应蜘蛛

nslookup 40.77.177.83
微信截图_20240717143710.png

出现.search.msn.com 为真蜘蛛



五、头条蜘蛛
nslookup 110.249.201.2

微信截图_20240717143814.png

出现bytespider 为真蜘蛛


六、神马蜘蛛

nslookup 42.120.160.119


微信截图_20240717143937.png

出现shenmaspider 为真蜘蛛。


需要反馈和提出你的建议可以加群

微信图片_20240713094220.jpg











使用道具 举报 只看该作者 回复
发表于 2024-7-16 16:56:42 | 显示全部楼层
注意的点:这个不是实时去拦截的、需要这个IP访问过来。60秒后会自动查询dns记录、查询完之后再一次访问就会拦截。

需要注意的点:如果开启了CDN 。就一定要把CDN的选项打开。不然真正的蜘蛛会被拦截的。


如果对于拦截的假蜘蛛的IP有疑惑。可以自行使用nslookup 进行查询是否为假蜘蛛。


测试一天的效果
微信截图_20240717093010.png

总共拦截1347 次。



使用道具 举报 回复 支持 反对
发表于 2024-7-21 09:56:23 | 显示全部楼层
我前几天回复的“防火墙没有拦截假蜘蛛选项”的帖子被删除了?
使用道具 举报 回复 支持 反对
发表于 2024-7-22 14:27:40 | 显示全部楼层
我真的是小白 发表于 2024-7-21 09:56
我前几天回复的“防火墙没有拦截假蜘蛛选项”的帖子被删除了?

更新就有啊。
使用道具 举报 回复 支持 反对
发表于 2024-7-22 19:00:11 | 显示全部楼层

我已经更新N次了都还没有,真的
使用道具 举报 回复 支持 反对
发表于 2024-7-23 02:06:50 | 显示全部楼层
宝塔防火墙 强的可怕
使用道具 举报 回复 支持 反对
发表于 2024-7-23 02:10:20 | 显示全部楼层
测速网 特征和除了国内知名搜索引擎的 其他全干掉
能不能增加 像那些小服务器  2核心到4核心 被人家一测速直接宕机 CPU爆满
我看 知名的 Cloudflare   就具备这样的能力
使用道具 举报 回复 支持 反对
发表于 2024-7-23 12:03:16 | 显示全部楼层
我真的是小白 发表于 2024-7-22 19:00
我已经更新N次了都还没有,真的

微信截图_20240723120305.png

更新之后。用无痕模式打开。

要版本是9.4.8  9.4.9 这两个版本才有
使用道具 举报 回复 支持 反对
发表于 2024-7-23 20:53:06 | 显示全部楼层
宝塔技术-小强 发表于 2024-7-23 12:03
更新之后。用无痕模式打开。

要版本是9.4.8  9.4.9 这两个版本才有

你好,我更新之后的就是9.4.8版本,就是没有“假蜘蛛”这一选项。我更新、修复好几次了都没有用。
使用道具 举报 回复 支持 反对
发表于 2024-7-24 13:58:09 | 显示全部楼层
我真的是小白 发表于 2024-7-23 20:53
你好,我更新之后的就是9.4.8版本,就是没有“假蜘蛛”这一选项。我更新、修复好几次了都没有用。 ...

那就更新到9.4.9 用无痕模式打开
使用道具 举报 回复 支持 反对
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

普通问题处理

论坛响应时间:72小时

问题处理方式:排队(仅解答)

工作时间:白班:9:00 - 18:00

紧急问题处理

论坛响应时间:10分钟

问题处理方式:1对1处理(优先)

工作时间:白班:9:00 - 18:00

工作时间:晚班:18:00 - 24:00

立即付费处理

工作时间:09:00至24:00

快速回复 返回顶部 返回列表