
Een crawler, ook wel zoekrobot of spider genoemd, is een server met speciale software waarmee deze het internet zelfstandig afzoekt naar informatie. Informatie op websites wordt verzameld, en links naar andere pagina's worden gevolgd. Vervolgens geven crawlers alle informatie door aan datacenters van de zoekmachine die vervolgens de informatie waarderen en opneemt in een index. Dit proces wordt crawlen of spideren genoemd.
Tags: Google Programmeertalen Search Engine Optimization
Gerelateerde termen: Crawlen Zoekmachine
Vorige term: Crawlen - Volgende term: Creative Commons