Perplexity · 用户请求
Perplexity-User 是什么?
当 Perplexity 用户提出需要相关网页的问题时,它会抓取这些网页。
- robots.txt token
Perplexity-User- 运营方
- Perplexity
- 用途
- 用户请求
- 是否遵守 robots.txt
- 否 运营方表示 robots.txt 可能不适用,或社区报告称该爬虫会忽略它。
- 运营方是否提供文档
- 是,运营方在其自有页面上有相关说明。
- 公开的 IP 列表
- www.perplexity.com/perplexity-user.json
- 文档
- docs.perplexity.ai
Perplexity 表示它通常会忽略 robots.txt;如需屏蔽它,请使用公开的 IP 列表。
在整个网站上屏蔽 Perplexity-User
User-agent: Perplexity-User
Disallow: /
允许访问,但屏蔽私有路径
User-agent: Perplexity-User
Allow: /
Disallow: /admin/
此爬虫会为用户或代表用户行事的 agent 获取页面。多家运营方表示,这类请求可能不受 robots.txt 约束;如有需要,请查看上方说明,并在防火墙处实施限制。