Das Crawl Budget beschreibt die Anzahl an URLs, welche Google maximal crawlt. Jede Webseite hat ein bestimmtes Crawlbudget, welches je nach Qualität und Autorität der Webseite höher oder niedriger ausfallen kann. Je höher der PageRank einer Webseite ist, desto mehr Crawlbudget wird für die Webseite freigegeben. Strategisch gesehen ist das Crawlbudget für große Webseiten ein Problem.

Durch ihre vielen URLs laufen sie Gefahr, dass Google nicht alle crawlt und diese nicht indexiert werden. Um dem vorzubeugen können Seiten deindexiert werden oder bestimmte Seiten als besonders wichtig angezeigt werden. Dadurch erhalten einzelne Seiten mehr Gewicht und ihr Ranking kann verbessert werden. Hier findest du mehr Informationen zum Crawling und zur Indexierung.