Огляд вашої інфраструктури парсингу
Створіть першу задачу без складних налаштувань: вставте URL, виберіть елемент на сторінці та збережіть конфігурацію.
| Назва | Статус | Записів | Останній запуск | Тривалість | Дії |
|---|
Універсальна платформа веб-скрапінгу
Огляд вашої інфраструктури парсингу
Створіть першу задачу без складних налаштувань: вставте URL, виберіть елемент на сторінці та збережіть конфігурацію.
| Назва | Статус | Записів | Останній запуск | Тривалість | Дії |
|---|
Керуйте конфігураціями парсингу
| Назва / URL | Статус | Рушій | Записів | Розклад | Оновлено | Дії |
|---|
Активні задачі, підзадачі та розклад
Керуйте та моніторьте пул проксі-серверів
| Проксі | Країна | Час відповіді | Статус | Викор. | Помилок | Остання перевірка | Дії |
|---|
Збережені сесії для парсингу захищених ресурсів
| Назва | URL входу | Тип | Статус | Оновлено | Дії |
|---|
Отримуйте спарсені результати через HTTP — у скриптах, Postman або cURL
—
—
—
Простий режим приховує технічні вкладки. Розширений режим відкриває весь функціонал для складних сценаріїв.
JSON-об'єкт, рядок form-encoded або довільний текст — залежно від обраного формату
Кожен запит має власний URL, метод і тіло. Використовується замість єдиного URL на вкладці «Основне».
Якщо список порожній — використовується URL і метод з вкладки
«Основне».
Для кожного запиту можна вказати власні селектори, або залишити
порожніми — тоді використовуватимуться загальні з вкладки
«Селектори».
CSS-селектор, що відповідає кожному рядку/картці/елементу у списку
Назва поля (з таблиці нижче), яке унікально ідентифікує товар. При повторному парсингу — порівнює значення всіх monitored полів з попереднім запуском і зберігає зміни.
Атрибут: залиште порожнім для тексту, або вкажіть
src, href,
data-price тощо.
Трансформація: trim, number,
lowercase, regex:(\d+):1
Оберіть простий варіант, і поле cron заповниться автоматично. Якщо хочете точний розклад, оберіть «Ввести cron самостійно».
Формат:
хвилини години день-місяця місяць день-тижня.
Приклади: */1 * * * * — кожну хвилину,
0 */6 * * * — кожні 6 годин,
0 9 * * 1-5 — будні о 9:00,
0 0 * * * — щодня опівночі.
/1 означає «кожен 1-ий крок» в полі. Тобто
*/1 = «кожний».
Парсер зайде на кожне таке посилання і зберігатиме поля разом із записом списку.
Підзадача буде повторно парсити сторінку деталей через заданий інтервал і зберігати історію змін.
Увімкніть якщо сайт повертає JSON тільки на AJAX-запити
Вкажіть назву поля в JSON-відповіді, яке містить HTML з товарами
Крапковий шлях до масиву об'єктів у JSON-відповіді. Після цього
селектор елемента = .json-item, поля — за назвою
класу: .name, .brand_name,
.url і т.д.
Після парсингу кожної сторінки — знаходить всі посилання, відкриває їх і парсить так само, рекурсивно.
Для кожного спарсеного запису підставляє
{{назва_поля}} і відкриває побудований URL.
Якщо вказано — CSS-селектор посилань ігнорується.
Крапковий шлях до масиву в JSON-відповіді crawled-сторінки.
Поля масиву доступні в шаблоні наступного рівня через
{{назва}}.
Незалежно від «Макс. сторінок» на вкладці «Основне»
Cookies з вибраної авторизації автоматично додаються до запитів
Коли парсер знайде новий або змінений контент, відправить дані на зовнішній webhook URL.
URL-адресу вебхука для отримання JSON-даних з новими результатами парсингу.
JSON-об'єкт з додатковими HTTP-заголовками для запиту вебхука.
Правила застосовуються до кожного зібраного запису після парсингу. Умови перевіряються по черзі. При збігу — виконується дія.
Підтримувані формати: host:port,
host:port:user:pass,
protocol://user:pass@host:port
Оберіть поля, які має містити експорт, і при потребі змініть заголовки.
Для легкого вибору елементів на сторінці:
Після завершення парсингу експортуйте дані:
Автоматичний запуск завдань:
Якщо порожньо — відправляється весь об'єкт data запису без змін
Якщо порожньо — рядки розділяються роздільником полів
За замовчуванням: Tab
За замовчуванням: новий рядок
Елемент, що з'являється після входу
Наприклад: поля CSRF-токену, captcha, remember-me тощо
Скопіюйте з DevTools → Application → Cookies → скопіюйте як рядок