OpenAI · 搜索
OAI-SearchBot 是什么?
OpenAI 用于 ChatGPT 搜索的爬虫。它遵守 robots.txt,并使用与 GPTBot 不同的 token,因此您可以允许搜索,同时拒绝训练用途。
- robots.txt token
OAI-SearchBot- 运营方
- OpenAI
- 用途
- 搜索
- 是否遵守 robots.txt
- 是 运营方表示该爬虫遵守 robots.txt。
- 运营方是否提供文档
- 是,运营方在其自有页面上有相关说明。
- 公开的 IP 列表
- openai.com/searchbot.json
- 文档
- platform.openai.com
在整个网站上屏蔽 OAI-SearchBot
User-agent: OAI-SearchBot
Disallow: /
允许访问,但屏蔽私有路径
User-agent: OAI-SearchBot
Allow: /
Disallow: /admin/