Это ObhodchikBot — мониторинг доступности сайта
Вы попали сюда из логов своего сервера: наш бот обращался к вашему сайту и
представился строкой ObhodchikBot/1.0 (+https://obhodok.ru/bot).
Обходчик — сервис мониторинга сайтов. Он проверяет, что сайт открывается, что сертификат в порядке и что содержимое главной страницы не подменилось. Проверка запускается не сама по себе: её завёл владелец сайта или студия, которая его обслуживает. Мы не индексируем сайт, не собираем контент для поиска и не перебираем адреса.
Как он себя ведёт
- Один запрос на проверку. Интервал задаёт владелец монитора: от 5 минут на большинстве тарифов и не чаще одного раза в минуту — на самом старшем. Повторный запрос уходит, только если сайт не ответил: не более двух подтверждающих попыток, чтобы не поднимать тревогу из-за одного сетевого сбоя.
-
Обычно только заголовки. Где достаточно кода ответа,
мы шлём HEAD и тело страницы не тянем. Когда тело нужно, запрашиваем его
сжатым (
Accept-Encoding: gzip). -
Полный аудит — раз в сутки. Один раз в день, помимо
главной страницы, мы читаем
robots.txt,sitemap.xmlи короткий список типовых служебных путей — чтобы предупредить владельца, если наружу выставлено лишнее. Остальные проверки этого не делают. -
Мы уважаем 429. Ответ «слишком много запросов»
останавливает проверки этого сайта до срока, указанного в
Retry-After, и не считается сбоем сайта. - Никакой авторизации и никаких форм. Бот не пытается войти в админку, не подбирает пароли и не отправляет формы, кроме тех, которые владелец монитора настроил сам для своего же сайта.
С каких адресов мы приходим
Список постоянный. Если проверки нужны, но их режет защита сайта, внесите эти адреса в белый список файрвола, WAF или fail2ban.
Если перед сайтом стоит проверка браузера
Антибот-щит (проверка браузера, капча) пропускает только клиента с
JavaScript и отдаёт нам 401 или
403. Мы не решаем такую проверку и не
притворяемся браузером. Чтобы проверки шли насквозь, откройте настройки
монитора, нажмите «Выдать секрет» и внесите в правило
своего щита заголовок:
X-Obhodok-Check: <ваш секрет>
Мы будем слать его на каждый запрос к вашему сайту, и щит пропустит именно нас. Пускать нас по User-Agent не нужно — его подделает кто угодно; секрет или адреса выше надёжнее. Секрет знаете только вы; смена секрета сразу закрывает прежний.
Как ограничить или отключить
-
Снизить частоту. Отвечайте кодом
429с заголовкомRetry-After— мы выдержим указанную паузу автоматически. - Заблокировать. Закройте наш User-Agent или адреса выше. Мы не обходим блокировки и не маскируемся под браузер; владелец монитора увидит, что сайт для нас недоступен.
- Отключить совсем. Если мониторинг вашего сайта никто не заказывал, напишите на info@obhodok.ru с адресом домена — снимем его с проверок.