Meta · 사용자 요청
meta-externalfetcher이란?
Meta의 에이전트 기능을 포함해 사용자가 요청한 페이지를 가져옵니다.
- robots.txt 토큰
meta-externalfetcher- 운영자
- Meta
- 목적
- 사용자 요청
- robots.txt 준수
- 아니요 운영자는 robots.txt가 적용되지 않을 수 있다고 밝히거나, 커뮤니티 보고에 따르면 이를 무시합니다.
- 운영자 문서
- 예, 운영자의 공식 페이지에 나와 있습니다.
- 문서
- developers.facebook.com
Meta는 robots.txt를 우회할 수 있다고 밝혔으며 IP 대역도 공개하지 않습니다. 따라서 차단할 방법이 거의 없습니다.
사이트 전체에서 meta-externalfetcher 차단
User-agent: meta-externalfetcher
Disallow: /
허용하되 비공개 경로는 제외
User-agent: meta-externalfetcher
Allow: /
Disallow: /admin/
이 봇은 사용자를 위해 또는 사용자를 대신하는 에이전트를 위해 페이지를 가져옵니다. 일부 운영자는 이러한 요청에는 robots.txt가 적용되지 않을 수 있다고 밝히므로, 중요한 경우 위 내용을 확인하고 방화벽에서 차단하세요.