
Een ROBOTS.TXT wordt in de root van een website directory neergezet. Zo'n bestand is opgebouwd met een specifieke syntax bedoeld voor crawlers. Hierdoor kan er aangegeven worden welke bestanden en of mappen niet opgenomen mogen worden in de index. De inhoud van ROBOTS.TXT zijn richtlijnen en hoeven niet gevolgd te worden.