Generator Robots.txt yang baik
Build robots.txt mengizinkan dan tidak mengizinkan aturan, keterlambatan crawl, dan petunjuk sitemap.
Satu jalur per baris, dimulai dengan /. Encode spaces sebagai %20 dan # sebagai %23.
robots.txt controls crawling; it does not secure private pages or guarantee removal from search. Google ignores Crawl-delay. One agent token per line (letters, _, -, or *).
robots.txtReview before publishing at the site root. Manual edits are copied and downloaded; changing form fields regenerates the file.