Meta · การดึงข้อมูลโดยผู้ใช้
meta-externalfetcher คืออะไร?
ดึงหน้าเว็บตามคำขอของผู้ใช้ รวมถึงคำขอจากฟีเจอร์ agent ของ Meta
- token สำหรับ robots.txt
meta-externalfetcher- ผู้ให้บริการ
- Meta
- วัตถุประสงค์
- การดึงข้อมูลโดยผู้ใช้
- ทำตาม robots.txt
- ไม่ ผู้ให้บริการระบุว่า robots.txt อาจไม่มีผลกับบอตนี้ หรือมีรายงานจากชุมชนว่าบอตนี้ไม่ปฏิบัติตาม
- มีเอกสารจากผู้ให้บริการ
- มีระบุไว้ในหน้าเว็บของผู้ให้บริการ
- เอกสาร
- developers.facebook.com
Meta ระบุว่าอาจข้าม robots.txt และไม่ได้เผยแพร่ช่วง IP จึงมีวิธีบล็อก crawler นี้ได้ไม่มาก
บล็อก meta-externalfetcher จากทั้งเว็บไซต์
User-agent: meta-externalfetcher
Disallow: /
อนุญาตให้เข้าถึง แต่กันเส้นทางส่วนตัวไว้
User-agent: meta-externalfetcher
Allow: /
Disallow: /admin/
บอตนี้ดึงหน้าเว็บให้บุคคลหนึ่ง หรือให้ agent ที่ดำเนินการแทนบุคคลนั้น ผู้ให้บริการหลายรายระบุว่า robots.txt อาจไม่มีผลกับคำขอประเภทนี้ ดังนั้นโปรดตรวจสอบบรรทัดด้านบน และบังคับใช้กฎที่ firewall หากเป็นเรื่องสำคัญ
บอตอื่นจาก Meta
เพิ่มลงใน robots.txt ใน generator →