dotsagent.io
ภาษา:ไทย
Google · การฝึกโมเดล

GoogleOther คืออะไร?

crawler ทั่วไปของ Google สำหรับการวิจัยและพัฒนา ซึ่งดึงข้อมูลนอก Search โดยทำตาม robots.txt และใช้รายการ IP ของ crawler ทั่วไปชุดเดียวกัน

token สำหรับ robots.txt
GoogleOther
ผู้ให้บริการ
Google
วัตถุประสงค์
การฝึกโมเดล
ทำตาม robots.txt
ใช่ ผู้ให้บริการระบุว่าบอตนี้ปฏิบัติตาม robots.txt
มีเอกสารจากผู้ให้บริการ
มีระบุไว้ในหน้าเว็บของผู้ให้บริการ
รายการ IP ที่เผยแพร่
developers.google.com/static/crawling/ipranges/common-crawlers.json
เอกสาร
developers.google.com

บล็อก GoogleOther จากทั้งเว็บไซต์

robots.txt
User-agent: GoogleOther
Disallow: /

อนุญาตให้เข้าถึง แต่กันเส้นทางส่วนตัวไว้

robots.txt
User-agent: GoogleOther
Allow: /
Disallow: /admin/

บอตอื่นจาก Google

เพิ่มลงใน robots.txt ใน generator →

แหล่งข้อมูล

  1. developers.google.com/search/docs/crawling-indexing/google-common-crawlers