dotsagent.io
Bahasa:Bahasa Indonesia
Meta · Pengambilan oleh pengguna

Apa itu meta-externalfetcher?

Mengambil halaman atas permintaan pengguna, termasuk untuk fitur agent Meta.

Token robots.txt
meta-externalfetcher
Operator
Meta
Tujuan
Pengambilan oleh pengguna
Mematuhi robots.txt
Tidak Operator menyatakan bahwa robots.txt mungkin tidak berlaku, atau laporan komunitas menyebutkan bahwa bot ini mengabaikannya.
Didokumentasikan oleh operator
Ya, di halaman milik operator sendiri.
Dokumentasi
developers.facebook.com

Meta menyatakan bahwa bot ini dapat melewati robots.txt dan tidak memublikasikan rentang IP, sehingga hanya ada sedikit cara untuk memblokirnya.

Blokir meta-externalfetcher dari seluruh situs Anda

robots.txt
User-agent: meta-externalfetcher
Disallow: /

Izinkan bot, tetapi kecualikan path privat

robots.txt
User-agent: meta-externalfetcher
Allow: /
Disallow: /admin/

Bot ini mengambil halaman untuk seseorang, atau untuk agent yang bertindak atas nama seseorang. Beberapa operator menyatakan bahwa robots.txt mungkin tidak berlaku untuk permintaan seperti ini, jadi periksa baris di atas dan blokir di firewall jika diperlukan.

Bot lain dari Meta

Tambahkan ke robots.txt di generator →

Sumber

  1. developers.facebook.com/docs/sharing/webmasters/web-crawlers/

Referensi independen bagi mereka yang membangun agen AI. Tidak berafiliasi dengan vendor mana pun yang disebutkan di sini.

© 2026 DotsAgent · Fakta diperiksa 1 Oktober 2026