[news]Google, mijn favoriete search engine, gaat wel erg te keer zeg. Eens per 5 a 10 seconden indexeert Google de GEHELE site. Handig, want dan dan is Google altijd up-to-date. Minder handig is dat van de 100GB aan traffic (zo bleek uit m'n logfiles) Google ongeveer verantwoordelijk is voor maarliefst 7GB. Naast de extra traffic die het maandelijks genereert zorgt het ook voor een overdreven hoge load op de server. Ik heb die lui al een e-mail gestuurd met het verzoek MacFreak slechts een maal per dag te indexeren. Meer dan genoeg IMHO. Ondertussen heb ik middels een robots.txt file in m'n www-root er voor gezorgd dat zoekmachines niet langer de site kunnen indexeren.
Na wat zoeken blijkt dat Google zelfs hele sites plat gooit door behoorlijk agressief te indexeren. Vele webmasters weren Google inmiddels van hun site.
Probeer je dus te via Google iets te zoeken op MacFreak, dan krijg je dus niet de laatste informatie te zien. [/news]