dotsagent.io
언어:한국어
Google · 학습

GoogleOther이란?

Google의 일반 크롤러로, 검색 외 연구 및 개발 목적으로 페이지를 가져옵니다. robots.txt를 따르며 공통 크롤러 IP 목록을 공유합니다.

robots.txt 토큰
GoogleOther
운영자
Google
목적
학습
robots.txt 준수
예 운영자는 robots.txt를 준수한다고 밝힙니다.
운영자 문서
예, 운영자의 공식 페이지에 나와 있습니다.
공개된 IP 목록
developers.google.com/static/crawling/ipranges/common-crawlers.json
문서
developers.google.com

사이트 전체에서 GoogleOther 차단

robots.txt
User-agent: GoogleOther
Disallow: /

허용하되 비공개 경로는 제외

robots.txt
User-agent: GoogleOther
Allow: /
Disallow: /admin/

Google의 다른 봇

생성기의 robots.txt에 추가 →

출처

  1. developers.google.com/search/docs/crawling-indexing/google-common-crawlers