dotsagent.io
언어:한국어
Google · 검색

Google-CloudVertexBot이란?

사이트 소유자가 Google에 요청하면 Vertex AI Agents 구축을 위해 사이트를 크롤링합니다. robots.txt를 따르며 Google의 공통 크롤러 IP 대역을 사용합니다.

robots.txt 토큰
Google-CloudVertexBot
운영자
Google
목적
검색
robots.txt 준수
예 운영자는 robots.txt를 준수한다고 밝힙니다.
운영자 문서
예, 운영자의 공식 페이지에 나와 있습니다.
공개된 IP 목록
developers.google.com/static/crawling/ipranges/common-crawlers.json
문서
developers.google.com

사이트 전체에서 Google-CloudVertexBot 차단

robots.txt
User-agent: Google-CloudVertexBot
Disallow: /

허용하되 비공개 경로는 제외

robots.txt
User-agent: Google-CloudVertexBot
Allow: /
Disallow: /admin/

Google의 다른 봇

생성기의 robots.txt에 추가 →

출처

  1. developers.google.com/search/docs/crawling-indexing/google-common-crawlers