Защита от перегрузки
Ограничение числа одновременно обрабатываемых запросов, замедление опроса сервера под нагрузкой, автоматический выключатель, мониторинг пулов соединений и лимиты частоты запросов. Значения по умолчанию не ограничивают обычную нагрузку; меняйте их по рекомендации технической поддержки Webim.
Как изменить параметры и применить изменения, описано в разделе Параметры .env. Все параметры на этой странице необязательные.
Ограничение конкурентности
Каждый рабочий процесс веб-сервера ограничивает число одновременно обрабатываемых запросов. Лимиты действуют отдельно для двух классов запросов: опроса сервера (запросов обновлений от виджета и рабочего места оператора) и остальных запросов. Если место не освободилось за время ADMISSION_ACQUIRE_TIMEOUT, запрос отклоняется с кодом 503 и заголовком Retry-After и не ждёт в очереди.
Все лимиты действуют на один рабочий процесс: общий лимит установки равен лимиту, умноженному на число рабочих процессов.
| Параметр | Тип | По умолчанию | Описание |
|---|---|---|---|
ADMISSION_CONTROL_ENABLED |
Логический | True |
Ограничение числа одновременно обрабатываемых запросов. |
ADMISSION_DEFAULT_MAX_CONCURRENCY |
Целое число | 64 |
Максимальное число одновременно обрабатываемых запросов, кроме опроса сервера. Такие запросы обращаются к базе данных, поэтому значение согласуют с размером пула соединений pgbouncer и числом рабочих процессов. |
ADMISSION_POLL_MAX_CONCURRENCY |
Целое число | 512 |
Максимальное число одновременных запросов опроса сервера. Запрос длинного опроса от рабочего места оператора занимает место до 30 секунд, поэтому значение должно быть заметно больше числа операторов, которых обслуживает один процесс. |
ADMISSION_ACQUIRE_TIMEOUT |
Целое число, миллисекунды | 500 |
Максимальное время ожидания свободного места, после которого запрос отклоняется. |
ADMISSION_RETRY_AFTER |
Целое число, секунды | 2 |
Значение заголовка Retry-After в ответе с кодом 503: через сколько секунд клиенту повторить запрос. |
ADMISSION_DEFAULT_BUDGET |
Целое число, секунды | 30 |
Бюджет времени запроса, кроме опроса сервера. Если бюджет исчерпан, Webim не начинает новые операции в рамках запроса. |
ADMISSION_POLL_BUDGET |
Целое число, секунды | 35 |
Бюджет времени запроса опроса сервера. Должен быть больше длительности длинного опроса (30 секунд). |
ADMISSION_DEFAULT_STATEMENT_TIMEOUT |
Целое число, секунды | 30 |
Максимальная длительность SQL-запроса в отдельных ресурсоёмких операциях при обработке запросов, кроме опроса сервера. |
ADMISSION_POLL_STATEMENT_TIMEOUT |
Целое число, секунды | 3 |
Максимальная длительность SQL-запроса в отдельных ресурсоёмких операциях при обработке опроса сервера, например при загрузке полного состояния виджета. |
ADMISSION_ADAPTIVE_ENABLED |
Логический | False |
Адаптивный лимит для запросов, кроме опроса сервера: когда время ответа превышает ADMISSION_ADAPTIVE_LATENCY_THRESHOLD, лимит уменьшается, а при нормальном времени ответа постепенно растёт до ADMISSION_DEFAULT_MAX_CONCURRENCY. |
ADMISSION_ADAPTIVE_MIN_LIMIT |
Целое число | 8 |
Нижняя граница адаптивного лимита. Минимальное значение — 1; значение не может превышать ADMISSION_DEFAULT_MAX_CONCURRENCY. |
ADMISSION_ADAPTIVE_LATENCY_THRESHOLD |
Целое число, миллисекунды | 1000 |
Время ответа, при превышении которого адаптивный лимит уменьшается. |
ADMISSION_ADAPTIVE_INCREASE |
Дробное число | 1.0 |
На сколько увеличивается адаптивный лимит после ответа в пределах нормы. Значение должно быть больше 0. |
ADMISSION_ADAPTIVE_DECREASE |
Дробное число | 0.9 |
Множитель, на который умножается адаптивный лимит после медленного ответа. Допустимы значения больше 0 и меньше 1. |
ADMISSION_PRIORITY_SHED_ENABLED |
Логический | True |
Под нагрузкой первыми отклоняются необязательные действия посетителя: уведомления о наборе текста и о прочтении сообщений, реакции на сообщения, сведения о ходе загрузки файла и о местоположении, уход со страницы. Так сохраняется ресурс для отправки сообщений, начала и закрытия диалогов. |
ADMISSION_OPTIONAL_SHED_PRESSURE |
Дробное число | 0.8 |
Загрузка, начиная с которой отклоняются необязательные действия посетителя: от 0 до 1 (см. раздел Замедление опроса). |
Замедление опроса
Когда загрузка рабочего процесса растёт, сервер увеличивает период опроса для виджетов посетителей и так снижает входящий поток запросов. Загрузка — доля занятых мест в самом загруженном классе запросов: от 0 до 1.
| Параметр | Тип | По умолчанию | Описание |
|---|---|---|---|
ADMISSION_BACKPRESSURE_ENABLED |
Логический | True |
Увеличение периода опроса под нагрузкой. |
ADMISSION_BACKPRESSURE_MED_PRESSURE |
Дробное число | 0.75 |
Загрузка, начиная с которой период опроса умножается на ADMISSION_BACKPRESSURE_MED_MULTIPLIER. |
ADMISSION_BACKPRESSURE_HIGH_PRESSURE |
Дробное число | 0.9 |
Загрузка, начиная с которой период опроса умножается на ADMISSION_BACKPRESSURE_HIGH_MULTIPLIER. |
ADMISSION_BACKPRESSURE_MED_MULTIPLIER |
Целое число | 2 |
Множитель периода опроса при средней загрузке. |
ADMISSION_BACKPRESSURE_HIGH_MULTIPLIER |
Целое число | 4 |
Множитель периода опроса при высокой загрузке. |
ADMISSION_BACKPRESSURE_MAX_PERIOD |
Целое число, секунды | 15 |
Максимальный увеличенный период опроса. Должен быть меньше суммы настройки Constance NORMAL_POLLING_PERIOD и 10 секунд (по умолчанию 20 секунд): иначе между запросами страница посетителя будет считаться закрытой. |
ADMISSION_BACKPRESSURE_RECOVERY_WINDOW |
Целое число, секунды | 60 |
Сколько времени после снижения загрузки виджетам ещё сообщается обычный период опроса, чтобы его получили все замедленные виджеты. Не должно быть меньше ADMISSION_BACKPRESSURE_MAX_PERIOD. |
Автоматический выключатель
Автоматический выключатель защищает базу данных от запросов полного состояния виджета, когда база данных работает с ошибками. После серии ошибок выключатель срабатывает: виджеты получают пустой ответ, сохраняют своё состояние и повторяют запрос позже. Через время CIRCUIT_BREAKER_RESET_TIMEOUT выключатель пропускает пробные запросы и, если они успешны, возвращается в обычный режим.
| Параметр | Тип | По умолчанию | Описание |
|---|---|---|---|
CIRCUIT_BREAKER_ENABLED |
Логический | True |
Автоматический выключатель. |
CIRCUIT_BREAKER_FAILURE_THRESHOLD |
Целое число | 8 |
Число ошибок базы данных подряд, после которого выключатель срабатывает. |
CIRCUIT_BREAKER_RESET_TIMEOUT |
Целое число, секунды | 10 |
Через сколько времени после срабатывания выключатель пропускает пробные запросы. |
CIRCUIT_BREAKER_SUCCESS_THRESHOLD |
Целое число | 2 |
Число успешных пробных запросов, после которого выключатель возвращается в обычный режим. |
Мониторинг пулов соединений
Параметры команды monitor_pools, которая проверяет насыщение пулов соединений pgbouncer с PostgreSQL и записывает предупреждения в журнал. Команда не запускается автоматически: запустите её вручную с ключом --once для однократной проверки или без ключа для проверок с интервалом POOL_MONITOR_INTERVAL.
| Параметр | Тип | По умолчанию | Описание |
|---|---|---|---|
PGBOUNCER_ADMIN_DSN |
URL | Пусто | Адрес подключения к административной консоли pgbouncer (база pgbouncer), например postgresql://<пользователь>:<пароль>@pgbouncer.example.local:6432/pgbouncer. Пустое значение — пулы pgbouncer не проверяются. |
POOL_MONITOR_INTERVAL |
Целое число, секунды | 15 |
Интервал проверок. |
POOL_MONITOR_CL_WAITING_THRESHOLD |
Целое число | 1 |
Число клиентов, ожидающих соединения в пуле pgbouncer (cl_waiting), начиная с которого пул считается насыщенным. |
POOL_MONITOR_MAXWAIT_THRESHOLD |
Целое число, секунды | 1 |
Время ожидания соединения в пуле pgbouncer (maxwait), начиная с которого пул считается насыщенным. |
Лимиты частоты запросов
Лимит записывается в формате <число>/<период>, где период — second, minute, hour или day, например 10/minute. Запросы сверх лимита отклоняются. Лимиты для запросов без авторизации считаются по IP-адресу клиента (см. TRUSTED_PROXY_COUNT в разделе Защита веб-интерфейса), для запросов сотрудников — по сотруднику.
Пустое значение снимает ограничение только там, где это указано в описании. Для остальных лимитов пустое значение недопустимо: запросы, на которые действует лимит, будут завершаться ошибкой.
| Параметр | Тип | По умолчанию | Описание |
|---|---|---|---|
AUTH_ANON_THROTTLE_RATE |
Строка | 10/minute |
Запросы входа в Webim с одного IP-адреса. |
RECOVERY_ANON_THROTTLE_RATE |
Строка | 5/minute |
Запросы восстановления пароля с одного IP-адреса. |
SIGNUP_SETTINGS_THROTTLE_RATE |
Строка | 120/minute |
Запросы настроек страницы входа с одного IP-адреса. Настройки загружает каждая страница входа и восстановления пароля, поэтому сотрудники за общим NAT расходуют общий лимит. |
CLOSE_CHATS_THROTTLE_RATE |
Строка | 300/hour |
Запросы массового закрытия диалогов от одного сотрудника. В лимит входят и запросы состояния операции, которые интерфейс отправляет каждые 5 секунд. |
VISITOR_PUBLIC_THROTTLE_RATE |
Строка | 300/minute |
Запросы настроек и ресурсов виджета с одного IP-адреса. Посетители за общим NAT, например в офисе или в сети мобильного оператора, расходуют общий лимит. |
VISITOR_INIT_THROTTLE_RATE |
Строка | 600/minute |
Создание новых сессий посетителей с одного IP-адреса. Пустое значение снимает ограничение. |
VISITOR_SEND_HISTORY_THROTTLE_RATE |
Строка | 5/hour |
Отправка посетителем истории диалога на электронную почту с одного IP-адреса. Пустое значение снимает ограничение. |
ICON_GENERATION_THROTTLE_RATE |
Строка | 30/minute |
Создание новых иконок (фигур заданного цвета и размера) с одного IP-адреса. Готовые иконки выдаются без ограничений. Пустое значение снимает ограничение. |
PROMPTER_HINT_FEEDBACK_THROTTLE_RATE |
Строка | 60/minute |
События обратной связи оператора по подсказкам суфлёра от одного сотрудника. События сверх лимита не передаются суфлёру, на работу оператора это не влияет. Пустое значение снимает ограничение. |
PUNCTUATION_CHECK_THROTTLE_RATE |
Строка | 120/minute |
Запросы проверки пунктуации от одного сотрудника (см. Поиск и проверка текста). |
KB_SYNC_THROTTLE_RATE |
Строка | 60/minute |
Запросы синхронизации базы знаний из внешней системы с одного IP-адреса. Защищает от подбора токена базы знаний. |
CSP_REPORT_THROTTLE_RATE |
Строка | 120/minute |
Отчёты о нарушениях политики CSP с одного IP-адреса (см. CSP_REPORT_URI в разделе Защита веб-интерфейса). |
VISITOR_CHAT_LIMIT_ENABLED |
Логический | True |
Ограничение числа новых диалогов с одного IP-адреса. Сам лимит задаёт настройка Constance CHATS_COUNT_PER_IP_LIMIT (см. Посетители и виджет). Выключайте только на тестовых стендах, где весь трафик идёт с одного адреса. |