# Todos las arañas tienen acceso a todo el directorio (preferible no especificar carpetas comprometidas) User-agent: * Disallow: # Los robots han de esperar 30 segundos entre cada petición (no afecta a todos los robots, pero si a los principales: MSNBot, Slurp i Googlebot) Crawl-delay: 30 # Permitir trabajar a los buscadores de 0 am a 6 am (horario GMT). Como Madrid es GMT+2, a efectos de España será de las 2 am a 8 am Visit-time: 0000-0600 # Ayuda para encontrar el sitemap Sitemap: http://www.w4ll.pci/sitemap.xml