Панель управления парсингом

Запуск и управление задачами парсинга данных с сайта Дом.РФ

Режим парсинга

Параметры

1 страница = ~48 подрядчиков. Всего ~196 страниц.

Начать парсинг с указанной страницы (0 = первая страница)

Информация

  • Парсинг выполняется с соблюдением rate limiting (2 запроса/сек)
  • Все данные сохраняются в YDB автоматически
  • Можно парсить частями (по страницам или по конкретным ID)
  • Повторный парсинг обновит существующие записи (UPSERT)
  • Логи парсинга сохраняются в таблицу parse_logs