dotsagent.io
Bahasa:Bahasa Indonesia
Meta · Pencarian

Apa itu meta-webindexer?

Crawler Meta untuk pencarian di Meta AI. Bot ini mematuhi robots.txt; Meta tidak memublikasikan rentang IP untuknya.

Token robots.txt
meta-webindexer
Operator
Meta
Tujuan
Pencarian
Mematuhi robots.txt
Ya Operator menyatakan bahwa bot ini mematuhi robots.txt.
Didokumentasikan oleh operator
Ya, di halaman milik operator sendiri.
Dokumentasi
developers.facebook.com

Blokir meta-webindexer dari seluruh situs Anda

robots.txt
User-agent: meta-webindexer
Disallow: /

Izinkan bot, tetapi kecualikan path privat

robots.txt
User-agent: meta-webindexer
Allow: /
Disallow: /admin/

Bot lain dari Meta

Tambahkan ke robots.txt di generator →

Sumber

  1. developers.facebook.com/docs/sharing/webmasters/web-crawlers/

Referensi independen bagi mereka yang membangun agen AI. Tidak berafiliasi dengan vendor mana pun yang disebutkan di sini.

© 2026 DotsAgent · Fakta diperiksa 1 Oktober 2026