dotsagent.io
Язык:Русский
Cohere · Запросы пользователей

Что такое cohere-ai?

Токен, который в списках сообщества связывают с загрузкой страниц по запросу пользователей для Cohere. По словам Cohere, компания не сканирует веб для обучения, а в её документации в качестве примера токена используется Coherebot.

Токен robots.txt
cohere-ai
Оператор
Cohere
Назначение
Запросы пользователей
Соблюдает robots.txt
Не указано Оператор ничего об этом не сообщает.
Описан оператором
Да, на страницах самого оператора.
Документация
docs.cohere.com

cohere-training-data-crawler — ещё один токен Cohere, упоминаемый сообществом; Cohere не подтверждает ни один из них.

Заблокировать cohere-ai на всём сайте

robots.txt
User-agent: cohere-ai
Disallow: /

Разрешить доступ, но закрыть приватные пути

robots.txt
User-agent: cohere-ai
Allow: /
Disallow: /admin/

Этот бот получает страницы по запросу пользователя или действующего от его имени агента. Несколько операторов сообщают, что правила robots.txt могут не распространяться на такие запросы. Проверьте примечание выше и, если это важно, настройте блокировку на межсетевом экране.

Добавить в генератор robots.txt →

Источники

  1. docs.cohere.com/docs/cohere-web-crawlers
  2. github.com/ai-robots-txt/ai.robots.txt