---
title: "Google-Extended：屏蔽或允许此 AI 爬虫 · DotsAgent"
description: "Google-Extended 由 Google 运营，归类为「训练」。了解其 robots.txt token、是否遵守规则、IP 列表及控制方法。"
url: https://dotsagent.io/zh/agent-ready/bots/google-extended
---

Google · 训练

# Google-Extended 是什么？

这是一个控制 token，而不是爬虫：实际抓取由 Googlebot 执行，Google-Extended 则决定这些内容是否可用于 Gemini 训练和 grounding。

- **robots.txt token**: `Google-Extended`
- **运营方**: Google
- **用途**: 训练
- **是否遵守 robots.txt**: 运营方表示该爬虫遵守 robots.txt。
- **运营方是否提供文档**: 是，运营方在其自有页面上有相关说明。
- **文档**: [developers.google.com](https://developers.google.com/search/docs/crawling-indexing/google-common-crawlers)

它没有自己的 user agent，因此不会出现在访问日志中。

## 在整个网站上屏蔽 Google-Extended

`robots.txt`

```
User-agent: Google-Extended
Disallow: /
```

## 允许访问，但屏蔽私有路径

`robots.txt`

```
User-agent: Google-Extended
Allow: /
Disallow: /admin/
```

## Google 的其他爬虫

[Googlebot](https://dotsagent.io/zh/agent-ready/bots/googlebot)

[Google-CloudVertexBot](https://dotsagent.io/zh/agent-ready/bots/google-cloudvertexbot)

[GoogleOther](https://dotsagent.io/zh/agent-ready/bots/googleother)

[Google-Agent](https://dotsagent.io/zh/agent-ready/bots/google-agent)

[Google-GeminiNotebook](https://dotsagent.io/zh/agent-ready/bots/google-gemininotebook)

[Gemini Spark](https://dotsagent.io/zh/agent-ready/bots/gemini-spark)

[Gemini-Deep-Research](https://dotsagent.io/zh/agent-ready/bots/gemini-deep-research)

[GoogleAgent-Mariner](https://dotsagent.io/zh/agent-ready/bots/googleagent-mariner)

[在生成器中将其添加到 robots.txt →](https://dotsagent.io/zh/agent-ready/robots-txt)

## 来源

1. [developers.google.com](https://developers.google.com/search/docs/crawling-indexing/google-common-crawlers)/search/docs/crawling-indexing/google-common-crawlers

为 AI agent 开发者提供的独立参考资料。与此处提及的任何厂商均无关联。

© 2026 DotsAgent · 事实核查日期：2026年10月1日