dotsagent.io
언어:한국어
Google · 검색

Googlebot이란?

Google 검색을 위한 Google의 기본 크롤러입니다. robots.txt를 준수하며 IP 범위를 공개합니다.

robots.txt 토큰
Googlebot
운영자
Google
목적
검색
robots.txt 준수
예 운영자는 robots.txt를 준수한다고 밝힙니다.
운영자 문서
예, 운영자의 공식 페이지에 나와 있습니다.
공개된 IP 목록
developers.google.com/static/search/apis/ipranges/googlebot.json
문서
developers.google.com

검색 노출은 유지하면서 Gemini 학습을 거부하려면 Googlebot 대신 Google-Extended를 차단하세요.

사이트 전체에서 Googlebot 차단

robots.txt
User-agent: Googlebot
Disallow: /

허용하되 비공개 경로는 제외

robots.txt
User-agent: Googlebot
Allow: /
Disallow: /admin/

Google의 다른 봇

생성기의 robots.txt에 추가 →

출처

  1. developers.google.com/search/docs/crawling-indexing/google-common-crawlers