Mistral · 搜索
MistralAI-Index 是什么?
Mistral 用于构建搜索索引的爬虫。它遵守 robots.txt,并公布了 IP 列表。
- robots.txt token
MistralAI-Index- 运营方
- Mistral
- 用途
- 搜索
- 是否遵守 robots.txt
- 是 运营方表示该爬虫遵守 robots.txt。
- 运营方是否提供文档
- 是,运营方在其自有页面上有相关说明。
- 公开的 IP 列表
- mistral.ai/mistralai-index-ips.json
- 文档
- docs.mistral.ai
在整个网站上屏蔽 MistralAI-Index
User-agent: MistralAI-Index
Disallow: /
允许访问,但屏蔽私有路径
User-agent: MistralAI-Index
Allow: /
Disallow: /admin/