dotsagent.io
言語:日本語
Cohere · ユーザーによる取得

cohere-aiとは?

コミュニティのリストで、Cohereのユーザーリクエストによるページ取得に使われるとされているトークンです。Cohereはトレーニング目的のクロールを行わないと説明しており、自社ドキュメントでは例としてCoherebotを使っています。

robots.txtトークン
cohere-ai
運営者
Cohere
用途
ユーザーによる取得
robots.txtへの準拠
記載なし 運営者からの説明はありません。
運営者によるドキュメント
はい。運営者自身のページに記載されています。
ドキュメント
docs.cohere.com

cohere-training-data-crawlerも、コミュニティで報告されているCohereのトークンです。Cohereはどちらのトークンも確認していません。

サイト全体で cohere-ai をブロックする

robots.txt
User-agent: cohere-ai
Disallow: /

許可しつつ、非公開パスへのアクセスを防ぐ

robots.txt
User-agent: cohere-ai
Allow: /
Disallow: /admin/

この bot は、ユーザー本人または代理で動作するエージェントのためにページを取得します。こうしたリクエストには robots.txt が適用されない場合があると複数の運営者が説明しています。必要に応じて上記の説明を確認し、ファイアウォールで制御してください。

ジェネレーターで robots.txt に追加 →

出典

  1. docs.cohere.com/docs/cohere-web-crawlers
  2. github.com/ai-robots-txt/ai.robots.txt