Как боты забирают бюджет интернет-магазинов и что с этим делать
Владелец интернет-магазина замечает странность: сайт периодически подвисает на 5 секунд. Хостинг работает штатно, но пользователи жалуются. Анализ логов показывает неожиданную картину: за сутки приходит 72 700 запросов. Из них 41% генерирует один ClaudeBot. Общая доля ботов превышает половину всего трафика.
Четыре типа ботов: кто приносит пользу, а кто съедает ресурсы
Весь автоматизированный трафик делится на четыре категории. Они имеют разную ценность для бизнеса.
- Поисковые роботы - самые полезные гости. Googlebot, YandexBot, Bingbot делают около 220 запросов в сутки. Они обеспечивают индексацию товаров и присутствие в поисковой выдаче.
- ИИ-агенты живого поиска - новая категория ботов. Её нельзя игнорировать. OAI-SearchBot, ChatGPT-User, PerplexityBot генерируют всего 12 запросов в день. За каждым стоит реальный покупатель, который ищет товар через нейросети.
- Краулеры обучения - главные пожиратели ресурсов. ClaudeBot, GPTBot, CCBot делают до 30 000 запросов. Они собирают контент для тренировки моделей. Покупателей не приводят, но серверы нагружают основательно.
- SEO-скрейперы - работают на конкурентов. SemrushBot, AhrefsBot, MJ12bot (около 5100 запросов) анализируют структуру сайта и цены. Трафика не дают.
Почему боты вешают сайт сильнее, чем кажется
Проблема не только в количестве запросов. Боты обходят «холодные» страницы без кеша: карточки товаров, фильтры, сортировки. Каждый запрос создает новую сессию, поскольку cookie отсутствуют.
В описанном случае таблица сессий разрослась до 227 000 строк и 80 МБ. Это дополнительно тормозило базу данных. Когда человек заходит на сайт во время активности ботов, он попадает в общую очередь обработки. Даже кешированные страницы обслуживают те же процессы, что и бот-запросы.
Простое решение за один вечер
Блокировка вредных ботов через nginx заняла несколько часов. Она потребовала список примерно из двадцати User-Agent. Результат:
- Доля медленных ответов (TTFB > 2 секунд) снизилась с 3,6% до 1,6%.
- Средний ответ стабилизировался на уровне секунды.
- Случайные подвисания исчезли.
- Затраты - ноль рублей.
При этом полезная видимость сохранилась полностью. Двенадцать запросов ИИ-агентов обеспечивают присутствие товаров в нейросетевом поиске. А 30 000 запросов обучающих краулеров можно безопасно отсечь.
Как выявить бот-атаку в аналитике
Технические признаки:
- Резкий рост Direct-трафика без понятных причин.
- Аномально высокий показатель отказов или подозрительно идеальные метрики.
- Повторяющиеся комбинации устройств и браузеров.
- Всплески активности в нерабочее время.
Поведенческие сигналы:
- Нулевая глубина просмотра при высоком времени на сайте.
- Массовые переходы по одинаковым маршрутам.
- Слишком быстрое заполнение форм.
- Отсутствие географического разнообразия.
Влияние на рекламу:
- Высокий расход при отсутствии заявок.
- Несоответствие между кликами в рекламных системах и визитами в аналитике.
- Рост трафика при стагнации конверсий.
Пошаговая стратегия очистки трафика
Этап 1: Анализ и сегментация
- Проставьте UTM-метки для всех кампаний.
- Разделите данные по устройствам, браузерам, регионам.
- Выявите источники с высоким расходом и нулевой конверсией.
Этап 2: Техническая фильтрация
- Настройте robots.txt для ограничения доступа.
- Используйте встроенные фильтры в Яндекс.Метрике и Google Analytics.
- Заблокируйте подозрительные IP-диапазоны через .htaccess.
Этап 3: Работа с рекламными площадками
- Отключите низкокачественные площадки в РСЯ.
- Ограничьте показы в нетипичных регионах.
- Тестируйте автотаргетинг постепенно, отслеживая качество трафика.
Для маркетплейсов задача упрощается. Системы автоматизации ответов на отзывы помогают поддерживать активность с реальными покупателями. Они не тратят ресурсы на обработку бот-активности.
Автоматизация против ручной работы
Ручная чистка эффективна, но отнимает много времени. Специализированные сервисы анализируют каждый визит по сотням параметров. Они используют машинное обучение для выявления ботов и автоматической блокировки.
Такие решения интегрируются с рекламными системами. Они позволяют:
- Исключать бот-сегменты из показов в реальном времени.
- Корректировать ставки на основе качества трафика.
- Защищать формы заявок ещё на входе.
- Фильтровать трафик по поведенческим паттернам.
Экономика правильной фильтрации
Грамотная очистка от ботов дает измеримые результаты:
- Рост конверсии на 20-40%.
- Снижение стоимости целевого действия.
- Экономия рекламного бюджета до 30%.
- Корректная аналитика для масштабирования.
Главное правило для небольших интернет-магазинов: сначала отсортируйте трафик, перестав платить за тех, кто не приносит ценности. Только после этого инвестируйте в масштабирование инфраструктуры.
Современный e-commerce требует хирургической точности в работе с трафиком. Боты составляют значительную долю посещений, но не все из них вредны. Правильная сегментация позволяет сохранить SEO-видимость и присутствие в ИИ-поиске. Это избавляет от паразитной нагрузки на сервер и рекламный бюджет.