AcasăGlosar SEOWhat is robots.txt?
W Glosar SEO

What is robots.txt?

A root-level file that tells crawlers what they can access.

Definiţie

Robots.txt is a root-level file placed on a website to guide crawling behavior and limit crawler access to certain areas. It is useful for managing crawl budget, but it does not stop pages from being indexed if they are linked elsewhere.

De ce contează pentru SEO

glossary.detail.whyItMattersText

← Anterior
Website Architecture
Următorul →
X-Robots-Tag
🎯
Aveți nevoie de ajutor cu What is robots.txt??
Rezervați o consultație gratuită și obțineți îndrumări de specialitate adaptate site-ului dvs.
Rezervați o consultație gratuită →
glossary.detail.moreTermsLabel
← Înapoi la glosarul complet
Free SEO Audit
Get your personalised roadmap
Get Free Audit →