中山【完美解决】爬虫攻击导致的服务器跑满问题!
- 发表时间: 2019-06-28
- 浏览次数: 42079
这几天服务器跑满问题,爬虫攻击让笔者不恼火,经过多次试验终于把问题解决了!
nginx在站点的设置,配置文件中 server{ } 中添加
#禁止爬虫工具的抓取
if ($http_user_agent ~* "Bytespider|FISPIDER|YisouSpider") {
return 403;
}
Appache:
在伪静态里设置 这里以thinkphp为例!
<IfModule mod_rewrite.c>
RewriteEngine on
RewriteCond %{REQUEST_FILENAME} !-d
RewriteCond %{REQUEST_FILENAME} !-f
RewriteRule ^(.*)$ index.php [L,E=PATH_INFO:$1]
#禁止爬虫工具的抓取
RewriteCond %{HTTP_USER_AGENT} "^.*FISPIDER.*|.*YisouSpider.*$" [NC]
RewriteRule ^(.*)$ - [R=404,L]
</IfModule>
直接出解决方案,不说别的废话!