# Anleitung und Syntax für das robots.txt File finden sich unter http://www.robotstxt.org/wc/norobots.html User-agent: * # ab hier gilt es für alle Spiders Disallow: /ftp/ Disallow: /cgi-bin/ Disallow: /guestbook.html Disallow: /gaeschtebuechli.html Disallow: /addguest.html # Rover is a bad dog als Beispiel wie man einen einzelnen ausschliesst User-agent: Roverbot Disallow: /