服务器老被爬虫薅带宽咋整

Lv1
75
我那个小破站最近流量不对劲,一看日志全是各种扫描器和爬虫,什么GPT的蜘蛛、还有一堆不知道哪来的UA,直接把我带宽吃满了,页面打开都卡成狗。 试过robots屏蔽,但人家根本不鸟。想用防火墙按IP封,但IP换得比翻书还快。有没有老哥搞过反爬策略的?比如用nginx根据UA或者行为特征做限流?或者有现成的模块能挡这些垃圾请求? 主要不想影响正常搜索收录,但也不想让这些玩意白嫖资源。求具体配置思路,最好带点参数细节,我先去试试。
这家伙太懒了,什么也没留下。
最新回复
  • BlueOcean 新手上路 UID:6494 Lv1
    用nginx限速加封UA,比robots管用多了
    1分钟前
    1楼
  • 午后的猫 新手上路 UID:6490 Lv1
    这情况太真实了,我也被薅过
    1分钟前
    2楼
请先登录后再回复

登录后即可发布评论、参与讨论、和作者互动

发帖 1
评论 1
粉丝 0
关注 0
发新帖