Описание сайта robotstxt.org.ru («Robots.txt по-русски»). Статьи о работе с файлом robots.txt и распространённых ошибках в его написании. Информация о поисковых роботах Рунета. Ответы на часто задаваемые вопросы.
Всё о сайте:
Соглашение на обработку персональных данных — Robots.Txt по-русски Мы рады пользовательское соглашение является публичной офертой (то есть предложением заключить соглашение). СОГЛАШЕНИЕ ОБ ОБРАБОТКЕ ПЕРСОНАЛЬНЫХ
Теория и практика работы с robots.txt — Robots.Txt по-русски Иногда веб-мастеру может потребоваться закрыть отиндексации часть сайта. Эта задача легко решаема, так как большинство Web Роботов позволяют
Роботы Яндекса — «robots.txt» для Яндекса, директива «Host», HTML-тег «noindex», IP-адреса роботов Яндекса — Robots.Txt по-русски Методы управления поведением робота Яндекса Виды роботов Яндекса IP-адреса роботов Яндекса Директива Host HTML-тег <
Ошибки, часто встречающиеся в файле robots.txt — Robots.Txt по-русски Непосредственно ошибки Перепутанные инструкции Одна из самых распространённых ошибок в robots.txt – перепутаные между собой инструкции. Например: User-agent:
Ссылки о роботах — Robots.Txt по-русски Русскоязычные сайты Энциклопедия поисковых систем — самый информативный и посещаемый русскоязычный ресурс посвященный поисковым системам Файл robots.txt на
Часто задаваемые вопросы о поисковых роботах — Robots.Txt по-русски Общая информация о поисковых роботах Поисковый робот – это программа, автоматически путешествующая по веб, запрашивая документы и рекурсивно получая все
Роботы рунета — Robots.Txt по-русски В этом разделе будет копиться информация по наиболее активным роботам в Рунете. Если мы кого-то забыли – пишите (get@robotstxt.org.ru), добавим. Яндекс — все
CMS — Robots.Txt по-русски В данном разделе будут представлены варианты готовых решений для различных CMS (wikipedia.org/wiki/Система_управления_содержимым). Самые популярные CMS в
Роботы Вебальты (Неактуально) — Robots.Txt по-русски Неактуальность данного раздела R.I.P. Индексирование Вебальтой (www.webalta.ru) Поисковая система Webalta самостоятельно находит и индексирует сайты
Роботы Рамблера (Неактуально) — Robots.Txt по-русски Неактуальность данного раздела С 23.06.11 «Рамблер» отказывается от поддержки собственной поисковой системы и начинает использовать на своих сервисах поисковые