Das Crawling wird vom Crawler betrieben. Es beschreibt das Durchsuchen von Webseiten nach Informationen. Durch das Sammeln dieser Informationen können Suchmaschinen-Anbieter einen Index aufbauen, auf dem ihre Suchmaschine aufbaut. Der Index hält die passenden Suchergebnisse bereit, welche dann jederzeit abgerufen werden können. Mehr über das Thema findest du im Beitrag Crawling und Indexierung.