Developer.Baare.com » webmaster tools

Googlebot crawlt sinds vorige week veel intensiever

admin — Mon, 05 Oct 2009 18:59:08 +0000

Merkwaardig fenomeen in al mijn Google Webmaster Tools accounts. De crawlstatieken van vorige week tonen allemaal een enorme stijging in googlebot activiteit. Dit zowel voor grote als voor kleine sites (zie onder). Ik heb voorlopig nog nergens een uitleg gevonden voor deze plotse stijging. Suggesties zijn altijd welkom.

Google Bot kent geen grenzen

admin — Wed, 25 Feb 2009 19:42:53 +0000

A friendly warning. Verhoog niet zomaar de crawl rate van de google Bot in webmaster tools. De kans is namelijk groot dat GoogleBot ook echt zal doen wat je hem vraagt. En dat nagenoeg zonder grenzen. Ik heb een maand geleden de crawl rate voor een kleine site verdubbeld en GoogleBot is ook prompt twee keer zoveel langs gekomen.

Op een grotere site staat de crawl rate momenteel 2.5 pages/sec. Per dag geeft dit pieken boven de 200.000 pagina’s. So, Handle with care…

GoogleBot : berekening van de bandbreedte kost

admin — Sun, 21 Dec 2008 21:45:16 +0000

In mijn vorige post had ik het over de vernieuwde interface voor de crawlsnelheid settings in google webmaster tools. Je kan nu zelf deze snelheid verhogen, in sommige gevallen tot 10 per seconde. De crawlsnelheid verhogen heeft een aantal positieve consequenties : meer pagina’s in de google, meestal meer traffic uit google,….

Uiteraard heeft het ook een aantal negatieve consequenties. De duidelijkste is de zwaardere belasting van je servers, hiervoor waarschuwt google ook. Een effect dat meestal vergeten wordt ik impact op de bandbreedte en de daarbij horende kosten. Een klein rekenvoorbeeld:

Als Googlebot je site 0.05 keer per seconde crawlt (ik heb er zo enkele) en een gemiddelde pagina is 100KB groot dan verbruikt Googlebot :

BandBreedte: 0.05 page/sec * 100KB/page = 5 KB/sec = 0.04 Mbps
Throughput: 0.05 * 3600 * 24 * 30 * 100KB = 12.36 GB/maand

Dit zijn cijfers die je niet direct aan je facturen zal zien, maar stel dat Googlebot 1 keer per seconde langskomt (zo heb ik er ook eentje) Dan krijg je:

Bandbreedte: 0.8 Mbps
Throughput: 250 GB/maand

Als je een server hebt met een 10Mbps uplink is 8% van de bandbreedte voor googlebot alleen al niet meer verwaarloosbaar. Stel dat je er meerdere sites op draait en MsnBot en Slurp ongeveer hetzelfde presteren dan raak je al snel in de problemen.

Stel nu dat je de crawlrate op 10 pagina’s per seconde zou zetten ( dat kan! zie vorige post ) dan krijg je:

Bandbreedte: 8 Mbps
Throughput: 2.5 TB/maand

En dat voor GoogleBot alleen!

Webmaster tools : nieuwe look voor de FASTER option!

admin — Sun, 21 Dec 2008 19:38:11 +0000

Ik had het al hier en daar gelezen, maar nu zie ik het ook inmijn eigen accounts. De crawl speed option in google webmaster tools is veranderd van een radio box ( 2 of 3 opties afhankelijk van de grootte van de site ) naar een slider bar die ook de effectieve settings van de googlebot weergeeft. Als de balk iets voorbij de helft staat ( zie illustratie ) crawlt googlebot 1.75 pagina’s per seconde. De minimum en maximum waardes op de balk varieren van site tot site. Het hoogste dat ik momenteel al gezien heb is een maximum van 10 pagina’s per seconde!

Ik heb alvast in een van mijn sites de waarde bij wijze van expirement verdubbeld. Benieuwd of google de verandering ook zomaar zal doorvoeren…

Nieuw: Bereken je positie in de Google index

admin — Mon, 08 Dec 2008 22:29:29 +0000

Nieuw tooltje op http://tools.baare.com : Bereken je positie in google. Geef je website URL en de zoekterm in en je krijgt de positie van je site in google terug. Het toolje doorzoekt de eerste 50 resultaten op www.google.com. Als je je wil beperken tot .be sites typ je gewoon site:.be naast je zoekterm.

http://tools.baare.com/kmo-website/google-positie.aspx�

Website snelheids tester beta 2.0

admin — Sat, 06 Dec 2008 21:22:12 +0000

Ik heb een tweede (beta 2.0) versie van mijn website snelheid test tooltje online gezet. Belangrijkste aanpassingen zijn dat het rapport nu steeds zou moeten getoond worden ( ipv af en toe ) en dat het nu ook werkt in FireFox.

Test hier de snelheid van je website.

weer faster in Google webmaster tools

admin — Wed, 05 Nov 2008 19:47:04 +0000

I love it when a plan comes together. Slechts 1 week na het live gaan van de SEO aanpassingen en google wil alweer faster gaan. Dat belooft…

Faster please…(4)

admin — Sun, 28 Sep 2008 19:22:24 +0000

fyi : piek naar 200.000 crawls per dag…

Faster please…(3)

admin — Wed, 17 Sep 2008 11:32:33 +0000

De gevolgen van 4 maanden faster optie in google webmaster tools:

nadelig:

1. google indexeert de site nu gemiddeld 110.000 keer per dag met pieken boven 150.000
2. Dit is goed voor een bandbreedte piek van 7GB per dag

voordelig:

1. De organische inflow uit google is op die tijd maal 6 gegaan
2. Nieuwe data is binnen de 10 minuten terug te vinden in google Search

Kortom, als je het aankan ( en alleen dan ) is het het echt waard. De optie activeren zonder voorbereid te zijn is problemen zoeken…

Faster please…(2)

admin — Thu, 12 Jun 2008 18:43:19 +0000

Dit is het effect van de ‘faster’ option na 2 maand. Het gele vlak is de graffiek van mijn vorige post over deze optie.

De zwaarste piek ligt ondertussen al boven de 150.000 hits op 1 dag.