dotsagent.io
Idioma:Español
Google · Búsqueda

¿Qué es Googlebot?

Rastreador principal de Google para Google Search. Respeta robots.txt y Google publica sus rangos de IP.

Token de robots.txt
Googlebot
Operador
Google
Propósito
Búsqueda
Respeta robots.txt
Sí El operador indica que respeta robots.txt.
Documentado por el operador
Sí, en las páginas oficiales del operador.
Lista de IP publicada
developers.google.com/static/search/apis/ipranges/googlebot.json
Documentación
developers.google.com

Para impedir el uso de tu contenido en el entrenamiento de Gemini sin salir de Google Search, bloquea Google-Extended en lugar de Googlebot.

Bloquea Googlebot en todo tu sitio

robots.txt
User-agent: Googlebot
Disallow: /

Permítelo, pero excluye las rutas privadas

robots.txt
User-agent: Googlebot
Allow: /
Disallow: /admin/

Otros bots de Google

Añádelo a un robots.txt en el generador →

Fuentes

  1. developers.google.com/search/docs/crawling-indexing/google-common-crawlers