dotsagent.io
Bahasa:Bahasa Indonesia
Google · Pencarian

Apa itu Googlebot?

Crawler utama Google untuk Google Search. Bot ini mematuhi robots.txt, dan Google memublikasikan rentang IP-nya.

Token robots.txt
Googlebot
Operator
Google
Tujuan
Pencarian
Mematuhi robots.txt
Ya Operator menyatakan bahwa bot ini mematuhi robots.txt.
Didokumentasikan oleh operator
Ya, di halaman milik operator sendiri.
Daftar IP yang dipublikasikan
developers.google.com/static/search/apis/ipranges/googlebot.json
Dokumentasi
developers.google.com

Untuk menolak penggunaan konten bagi pelatihan Gemini tanpa menghilangkan situs dari Search, larang Google-Extended, bukan Googlebot.

Blokir Googlebot dari seluruh situs Anda

robots.txt
User-agent: Googlebot
Disallow: /

Izinkan bot, tetapi kecualikan path privat

robots.txt
User-agent: Googlebot
Allow: /
Disallow: /admin/

Bot lain dari Google

Tambahkan ke robots.txt di generator →

Sumber

  1. developers.google.com/search/docs/crawling-indexing/google-common-crawlers

Referensi independen bagi mereka yang membangun agen AI. Tidak berafiliasi dengan vendor mana pun yang disebutkan di sini.

© 2026 DotsAgent · Fakta diperiksa 1 Oktober 2026