't Is het ook in veel gevallen niet waard om er veel aandacht aan te besteden. Maar op mijn sites krijgen sommige mensjes een persoonlijke unieke pagina te zien vanwege eerder misbruik.
Het is mogelijk dat je met een mail adres crawler, spider of bot te maken hebt vanaf het IP adres door jou bedoeld. Gezien het aantal hits per bezoek is dat niet onwaarschijnlijk. Je kan een (uniek) IP adres ook eenvoudig blokkeren als je het verdacht vindt. Hiervoor gebruik je een .htaccess bestand in de map van je website met bijv. de onderstaande inhoud (ASCII):
ErrorDocument 403 http://www.jouwdomeinnaam.nl/403.php<IfModule mod_alias.c>
redirectmatch 403 \.txt
redirectmatch 403 \.inc
redirectmatch 403 alt\=
redirectmatch 403 afcid\=
redirectmatch 403 http\:\/\/
</IfModule>
<Limit GET>
order allow,deny
deny from xxx.xxx.xxx.xxx
deny from xxx.xxx.xxx.xxx
deny from xxx.xxx.xxx.xxx
allow from all
</Limit>
<Files .htaccess>
order allow,deny
deny from all
</Files>
SetEnvIfNoCase User-Agent ".*Teezir.*" spambot=1
SetEnvIfNoCase User-Agent ".*Sitemap Generator.*" spambot=1
SetEnvIfNoCase User-Agent ".*heritrix.*" spambot=1
<Limit GET POST PUT>
Order allow,deny
deny from env=spambot
deny from pools.arcor-ip.net
allow from all
</Limit>
RewriteEngine on
# Block proxies
RewriteCond %{HTTP:VIA} !^$ [OR]
RewriteCond %{HTTP:FORWARDED} !^$ [OR]
RewriteCond %{HTTP:USERAGENT_VIA} !^$ [OR]
RewriteCond %{HTTP:X_FORWARDED_FOR} !^$ [OR]
RewriteCond %{HTTP:PROXY_CONNECTION} !^$ [OR]
RewriteCond %{HTTP:XPROXY_CONNECTION} !^$ [OR]
RewriteCond %{HTTP:HTTP_PC_REMOTE_ADDR} !^$ [OR]
RewriteCond %{HTTP:HTTP_CLIENT_IP} !^$
RewriteRule ^(.*)$ - [F]
# Block referrer Spam visitors
RewriteCond %{HTTP_REFERER} (sleep-?deprivation) [NC,OR]
RewriteCond %{HTTP_REFERER} (sleep-?disorders) [NC,OR]
RewriteCond %{HTTP_REFERER} (insomnia) [NC]
RewriteRule .* - [F]
# Block visitors from specific sites
RewriteCond %{HTTP_REFERER} (netwasgroup\.com) [NC,OR]
RewriteCond %{HTTP_REFERER} (nic4u\.com) [NC,OR]
RewriteCond %{HTTP_REFERER} (wear4u\.com) [NC,OR]
RewriteCond %{HTTP_REFERER} (foxmediasolutions\.com) [NC]
RewriteRule .* - [F]
# Block visitors from free proxy sites by useragent
RewriteCond %{HTTP_REFERER} (proxy) [NC,OR]
RewriteCond %{HTTP_REFERER} (reverse) [NC,OR]
RewriteCond %{HTTP_REFERER} (theplanet) [NC]
RewriteRule .* - [F]
# Block visitors from free proxy sites by referrer domain
RewriteCond %{HTTP_REFERER} (freedommafia\.net) [NC,OR]
RewriteCond %{HTTP_REFERER} (web-promotion-tools\.com) [NC,OR]
RewriteCond %{HTTP_REFERER} (lightspeedsystems\.com) [NC,OR]
RewriteCond %{HTTP_REFERER} (wlserver\.nl) [NC,OR]
RewriteCond %{HTTP_REFERER} (the-cloak\.com) [NC,OR]
RewriteCond %{HTTP_REFERER} (reverse\.zipservers\.com\.com) [NC]
RewriteRule .* - [F,L]
Waarbij xxx.xxx.xxx.xxx staat voor elk IP adres dat je wilt blokkeren. Je kan bovenstaande lijst zelf eventueel uitbreiden. Ik heb een zeer uitgebreid bestand waarin ook de meeste slechte crawlers, spider, botjes en 419 scammers worden geblokkeerd. Als je dat wilt hebben, stuur dan een PB.