Перейти к содержанию

Защита от перегрузки

Ограничение числа одновременно обрабатываемых запросов, замедление опроса сервера под нагрузкой, автоматический выключатель, мониторинг пулов соединений и лимиты частоты запросов. Значения по умолчанию не ограничивают обычную нагрузку; меняйте их по рекомендации технической поддержки Webim.

Как изменить параметры и применить изменения, описано в разделе Параметры .env. Все параметры на этой странице необязательные.

Ограничение конкурентности

Каждый рабочий процесс веб-сервера ограничивает число одновременно обрабатываемых запросов. Лимиты действуют отдельно для двух классов запросов: опроса сервера (запросов обновлений от виджета и рабочего места оператора) и остальных запросов. Если место не освободилось за время ADMISSION_ACQUIRE_TIMEOUT, запрос отклоняется с кодом 503 и заголовком Retry-After и не ждёт в очереди.

Все лимиты действуют на один рабочий процесс: общий лимит установки равен лимиту, умноженному на число рабочих процессов.

Параметр Тип По умолчанию Описание
ADMISSION_CONTROL_ENABLED Логический True Ограничение числа одновременно обрабатываемых запросов.
ADMISSION_DEFAULT_MAX_CONCURRENCY Целое число 64 Максимальное число одновременно обрабатываемых запросов, кроме опроса сервера. Такие запросы обращаются к базе данных, поэтому значение согласуют с размером пула соединений pgbouncer и числом рабочих процессов.
ADMISSION_POLL_MAX_CONCURRENCY Целое число 512 Максимальное число одновременных запросов опроса сервера. Запрос длинного опроса от рабочего места оператора занимает место до 30 секунд, поэтому значение должно быть заметно больше числа операторов, которых обслуживает один процесс.
ADMISSION_ACQUIRE_TIMEOUT Целое число, миллисекунды 500 Максимальное время ожидания свободного места, после которого запрос отклоняется.
ADMISSION_RETRY_AFTER Целое число, секунды 2 Значение заголовка Retry-After в ответе с кодом 503: через сколько секунд клиенту повторить запрос.
ADMISSION_DEFAULT_BUDGET Целое число, секунды 30 Бюджет времени запроса, кроме опроса сервера. Если бюджет исчерпан, Webim не начинает новые операции в рамках запроса.
ADMISSION_POLL_BUDGET Целое число, секунды 35 Бюджет времени запроса опроса сервера. Должен быть больше длительности длинного опроса (30 секунд).
ADMISSION_DEFAULT_STATEMENT_TIMEOUT Целое число, секунды 30 Максимальная длительность SQL-запроса в отдельных ресурсоёмких операциях при обработке запросов, кроме опроса сервера.
ADMISSION_POLL_STATEMENT_TIMEOUT Целое число, секунды 3 Максимальная длительность SQL-запроса в отдельных ресурсоёмких операциях при обработке опроса сервера, например при загрузке полного состояния виджета.
ADMISSION_ADAPTIVE_ENABLED Логический False Адаптивный лимит для запросов, кроме опроса сервера: когда время ответа превышает ADMISSION_ADAPTIVE_LATENCY_THRESHOLD, лимит уменьшается, а при нормальном времени ответа постепенно растёт до ADMISSION_DEFAULT_MAX_CONCURRENCY.
ADMISSION_ADAPTIVE_MIN_LIMIT Целое число 8 Нижняя граница адаптивного лимита. Минимальное значение — 1; значение не может превышать ADMISSION_DEFAULT_MAX_CONCURRENCY.
ADMISSION_ADAPTIVE_LATENCY_THRESHOLD Целое число, миллисекунды 1000 Время ответа, при превышении которого адаптивный лимит уменьшается.
ADMISSION_ADAPTIVE_INCREASE Дробное число 1.0 На сколько увеличивается адаптивный лимит после ответа в пределах нормы. Значение должно быть больше 0.
ADMISSION_ADAPTIVE_DECREASE Дробное число 0.9 Множитель, на который умножается адаптивный лимит после медленного ответа. Допустимы значения больше 0 и меньше 1.
ADMISSION_PRIORITY_SHED_ENABLED Логический True Под нагрузкой первыми отклоняются необязательные действия посетителя: уведомления о наборе текста и о прочтении сообщений, реакции на сообщения, сведения о ходе загрузки файла и о местоположении, уход со страницы. Так сохраняется ресурс для отправки сообщений, начала и закрытия диалогов.
ADMISSION_OPTIONAL_SHED_PRESSURE Дробное число 0.8 Загрузка, начиная с которой отклоняются необязательные действия посетителя: от 0 до 1 (см. раздел Замедление опроса).

Замедление опроса

Когда загрузка рабочего процесса растёт, сервер увеличивает период опроса для виджетов посетителей и так снижает входящий поток запросов. Загрузка — доля занятых мест в самом загруженном классе запросов: от 0 до 1.

Параметр Тип По умолчанию Описание
ADMISSION_BACKPRESSURE_ENABLED Логический True Увеличение периода опроса под нагрузкой.
ADMISSION_BACKPRESSURE_MED_PRESSURE Дробное число 0.75 Загрузка, начиная с которой период опроса умножается на ADMISSION_BACKPRESSURE_MED_MULTIPLIER.
ADMISSION_BACKPRESSURE_HIGH_PRESSURE Дробное число 0.9 Загрузка, начиная с которой период опроса умножается на ADMISSION_BACKPRESSURE_HIGH_MULTIPLIER.
ADMISSION_BACKPRESSURE_MED_MULTIPLIER Целое число 2 Множитель периода опроса при средней загрузке.
ADMISSION_BACKPRESSURE_HIGH_MULTIPLIER Целое число 4 Множитель периода опроса при высокой загрузке.
ADMISSION_BACKPRESSURE_MAX_PERIOD Целое число, секунды 15 Максимальный увеличенный период опроса. Должен быть меньше суммы настройки Constance NORMAL_POLLING_PERIOD и 10 секунд (по умолчанию 20 секунд): иначе между запросами страница посетителя будет считаться закрытой.
ADMISSION_BACKPRESSURE_RECOVERY_WINDOW Целое число, секунды 60 Сколько времени после снижения загрузки виджетам ещё сообщается обычный период опроса, чтобы его получили все замедленные виджеты. Не должно быть меньше ADMISSION_BACKPRESSURE_MAX_PERIOD.

Автоматический выключатель

Автоматический выключатель защищает базу данных от запросов полного состояния виджета, когда база данных работает с ошибками. После серии ошибок выключатель срабатывает: виджеты получают пустой ответ, сохраняют своё состояние и повторяют запрос позже. Через время CIRCUIT_BREAKER_RESET_TIMEOUT выключатель пропускает пробные запросы и, если они успешны, возвращается в обычный режим.

Параметр Тип По умолчанию Описание
CIRCUIT_BREAKER_ENABLED Логический True Автоматический выключатель.
CIRCUIT_BREAKER_FAILURE_THRESHOLD Целое число 8 Число ошибок базы данных подряд, после которого выключатель срабатывает.
CIRCUIT_BREAKER_RESET_TIMEOUT Целое число, секунды 10 Через сколько времени после срабатывания выключатель пропускает пробные запросы.
CIRCUIT_BREAKER_SUCCESS_THRESHOLD Целое число 2 Число успешных пробных запросов, после которого выключатель возвращается в обычный режим.

Мониторинг пулов соединений

Параметры команды monitor_pools, которая проверяет насыщение пулов соединений pgbouncer с PostgreSQL и записывает предупреждения в журнал. Команда не запускается автоматически: запустите её вручную с ключом --once для однократной проверки или без ключа для проверок с интервалом POOL_MONITOR_INTERVAL.

Параметр Тип По умолчанию Описание
PGBOUNCER_ADMIN_DSN URL Пусто Адрес подключения к административной консоли pgbouncer (база pgbouncer), например postgresql://<пользователь>:<пароль>@pgbouncer.example.local:6432/pgbouncer. Пустое значение — пулы pgbouncer не проверяются.
POOL_MONITOR_INTERVAL Целое число, секунды 15 Интервал проверок.
POOL_MONITOR_CL_WAITING_THRESHOLD Целое число 1 Число клиентов, ожидающих соединения в пуле pgbouncer (cl_waiting), начиная с которого пул считается насыщенным.
POOL_MONITOR_MAXWAIT_THRESHOLD Целое число, секунды 1 Время ожидания соединения в пуле pgbouncer (maxwait), начиная с которого пул считается насыщенным.

Лимиты частоты запросов

Лимит записывается в формате <число>/<период>, где период — second, minute, hour или day, например 10/minute. Запросы сверх лимита отклоняются. Лимиты для запросов без авторизации считаются по IP-адресу клиента (см. TRUSTED_PROXY_COUNT в разделе Защита веб-интерфейса), для запросов сотрудников — по сотруднику.

Пустое значение снимает ограничение только там, где это указано в описании. Для остальных лимитов пустое значение недопустимо: запросы, на которые действует лимит, будут завершаться ошибкой.

Параметр Тип По умолчанию Описание
AUTH_ANON_THROTTLE_RATE Строка 10/minute Запросы входа в Webim с одного IP-адреса.
RECOVERY_ANON_THROTTLE_RATE Строка 5/minute Запросы восстановления пароля с одного IP-адреса.
SIGNUP_SETTINGS_THROTTLE_RATE Строка 120/minute Запросы настроек страницы входа с одного IP-адреса. Настройки загружает каждая страница входа и восстановления пароля, поэтому сотрудники за общим NAT расходуют общий лимит.
CLOSE_CHATS_THROTTLE_RATE Строка 300/hour Запросы массового закрытия диалогов от одного сотрудника. В лимит входят и запросы состояния операции, которые интерфейс отправляет каждые 5 секунд.
VISITOR_PUBLIC_THROTTLE_RATE Строка 300/minute Запросы настроек и ресурсов виджета с одного IP-адреса. Посетители за общим NAT, например в офисе или в сети мобильного оператора, расходуют общий лимит.
VISITOR_INIT_THROTTLE_RATE Строка 600/minute Создание новых сессий посетителей с одного IP-адреса. Пустое значение снимает ограничение.
VISITOR_SEND_HISTORY_THROTTLE_RATE Строка 5/hour Отправка посетителем истории диалога на электронную почту с одного IP-адреса. Пустое значение снимает ограничение.
ICON_GENERATION_THROTTLE_RATE Строка 30/minute Создание новых иконок (фигур заданного цвета и размера) с одного IP-адреса. Готовые иконки выдаются без ограничений. Пустое значение снимает ограничение.
PROMPTER_HINT_FEEDBACK_THROTTLE_RATE Строка 60/minute События обратной связи оператора по подсказкам суфлёра от одного сотрудника. События сверх лимита не передаются суфлёру, на работу оператора это не влияет. Пустое значение снимает ограничение.
PUNCTUATION_CHECK_THROTTLE_RATE Строка 120/minute Запросы проверки пунктуации от одного сотрудника (см. Поиск и проверка текста).
KB_SYNC_THROTTLE_RATE Строка 60/minute Запросы синхронизации базы знаний из внешней системы с одного IP-адреса. Защищает от подбора токена базы знаний.
CSP_REPORT_THROTTLE_RATE Строка 120/minute Отчёты о нарушениях политики CSP с одного IP-адреса (см. CSP_REPORT_URI в разделе Защита веб-интерфейса).
VISITOR_CHAT_LIMIT_ENABLED Логический True Ограничение числа новых диалогов с одного IP-адреса. Сам лимит задаёт настройка Constance CHATS_COUNT_PER_IP_LIMIT (см. Посетители и виджет). Выключайте только на тестовых стендах, где весь трафик идёт с одного адреса.