
robots.txt создание
robots.txt — обычный текстовый файл, находящийся в корне сайта, в котором содержатся специальные команды для поисковых роботов. Данный файл поможет вам управлять всеми поисковыми роботами, задавая как общие правила поведения, так и индивидуальные. Список инструкций (директив): User-agent — указывает к какому роботу будут применены правила; Disallow — запрещает доступ; Allow — разрешает доступ; [...]

