dotsagent.io
言語:日本語
Anthropic · 検索

Claude-SearchBotとは?

Claude での検索に使われる Anthropic のクローラーです。robots.txt に従い、ClaudeBot とは別の専用トークンを使います。

robots.txtトークン
Claude-SearchBot
運営者
Anthropic
用途
検索
robots.txtへの準拠
はい 運営者は、robots.txt に従うと明言しています。
運営者によるドキュメント
はい。運営者自身のページに記載されています。
公開IPリスト
claude.com/crawling/bots.json
ドキュメント
support.claude.com

サイト全体で Claude-SearchBot をブロックする

robots.txt
User-agent: Claude-SearchBot
Disallow: /

許可しつつ、非公開パスへのアクセスを防ぐ

robots.txt
User-agent: Claude-SearchBot
Allow: /
Disallow: /admin/

Anthropic のその他の bot

ジェネレーターで robots.txt に追加 →

出典

  1. support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-ca