Описание задачи
Вам предстоит взять на себя поддержку парка из 245 парсеров, написанных на Python. Парсеры работают автоматически: раз в 3 дня специальный бот проверяет их работоспособность и сообщает о поломках, однако он не отслеживает изменения на сайтах - за этим нужно следить вручную. За регулярное обслуживание предлагается оплата 15 000 рублей в месяц.
Основные обязанности
- Ежемесячная проверка:
- Обновление адресов новых филиалов у ретейлеров.
- Мониторинг цен на соответствие ожидаемым.
- Верификация наличия товаров (вручную или по скриптам).
- Проверка ленты (фида): она должна быть обновлена не позднее 24 часов.
- Реакция на ошибки:
- Любое сообщение от бота о сбое должно получить отклик - необходимо восстановить работоспособность парсера в течение дня (максимум 24 часа).
- Оптимизация расписания:
- Все парсеры должны запускаться в разное время, чтобы избежать перегрузки сервера и пересечения трафика.
- Работа с фидами магазинов:
- Если магазин предоставляет новый фид, нужно в течение этого же дня проверить его корректность и подключить вместо старого; старый парсер при этом отключается.
- Контроль сервера:
- Необходимо следить за состоянием сервера (нагрузка, критические ошибки), и при необходимости - уведомлять администратора.
Требования к кандидату
- Уверенное знание Python, понимание основ парсинга и работы с веб-протоколами.
- Опыт эксплуатации cron-задач, написания небольшого самодельного профилактического скриптов.
- Знание системы контроля версий (желательно Git) - для разрешения мелких изменений.
- Способность оперативно реагировать по рабочим ззапросам̆.