dotsagent.io
Lingua:Italiano
ByteDance · Addestramento

Che cos'è Bytespider?

Crawler di ByteDance, indicato nei registri della community come usato per l'addestramento. ByteDance non ha una pagina ufficiale dedicata.

Token robots.txt
Bytespider
Operatore
ByteDance
Scopo
Addestramento
Rispetta robots.txt
No L'operatore dichiara che robots.txt potrebbe non essere applicabile, oppure le segnalazioni della community indicano che non lo rispetta.
Documentato dall'operatore
No. Il token è noto solo da elenchi della community, come ai.robots.txt.

Secondo le segnalazioni della community, non rispetta robots.txt.

Blocca Bytespider su tutto il sito

robots.txt
User-agent: Bytespider
Disallow: /

Consenti l'accesso, ma escludi i percorsi privati

robots.txt
User-agent: Bytespider
Allow: /
Disallow: /admin/

Aggiungilo a robots.txt nel generatore →

Fonti

  1. github.com/ai-robots-txt/ai.robots.txt