Anthropic · 搜索
Claude-SearchBot 是什么？
Anthropic 用于 Claude 搜索的爬虫。它遵守 robots.txt，并使用独立于 ClaudeBot 的专属 token。
- robots.txt token
Claude-SearchBot- 运营方
- Anthropic
- 用途
- 搜索
- 是否遵守 robots.txt
- 是 运营方表示该爬虫遵守 robots.txt。
- 运营方是否提供文档
- 是，运营方在其自有页面上有相关说明。
- 公开的 IP 列表
- claude.com/crawling/bots.json
- 文档
- support.claude.com
在整个网站上屏蔽 Claude-SearchBot
User-agent: Claude-SearchBot
Disallow: /
允许访问，但屏蔽私有路径
User-agent: Claude-SearchBot
Allow: /
Disallow: /admin/