Лак очень большое количество открытых файлов

Вот моя конфигурация Varnish:

/usr/sbin/varnishd \
      -a 127.0.0.1:6081 \
      -T 127.0.0.1:6082 \
      -f /varnish/default.vcl \
      -P %t/%N/varnishd.pid \
      -s malloc,4G \
      -p thread_pools=12 -p thread_pool_min=250 -p default_ttl=1 -p default_grace=0 -p timeout_idle=1800

Итак, 12 * 250 = 3000 потоков. С этой настройкой у меня открыто более 400к файлов.

Снижение количества потоков до минимума действительно значительно уменьшает число открытых файлов.

Вопрос: как это возможно? Нормально ли, что каждый поток Varnish использует так много открытых файлов?

Некоторые из заданных вами параметров могут быть ответственны за такое высокое количество открытых файлов.

Потоки

Начнем с thread_pools=12. Значение по умолчанию – 2, и мы не советуем вам его изменять. В то время как thread_pool_min установлено на 250 в вашем случае, значение по умолчанию для thread_pool_max составляет 5000.

Вопрос: “Вы видите 400k открытых файлов в часы пик или даже когда у вас намного меньше 1000 активных потоков?”

Для справки: счетчик MAIN.threads в varnishstat может помочь вам определить, сколько активных потоков существует.

Предположим гипотетически, что это происходит во время абсолютного пикового трафика, когда у вас 5000 потоков на пул, но 12 пулов потоков приводят к 60000 активным потокам.

Это означало бы, что на каждый поток приходится около 7 файловых дескрипторов, что не является неразумным.

Влияние timeout_idle

Существует, конечно, параметр timeout_idle, который вы увеличили с 5 до 1800. Это означает, что соединение будет бездействовать в течение 1800 секунд, прежде чем будет закрыто, если установлен keepalive.

Это долго.

Файловые дескрипторы для бездействующих соединений перемещаются от потоков и управляются потоком ожидания. Это означает, что файловые дескрипторы сохраняются, в то время как потоки могут принимать новые соединения и создавать больше файловых дескрипторов.

Для справки: вы можете запустить varnishstat -f "WAITER.*.conns" -f "MAIN.sess_conn" -f "MAIN.backend_conn", чтобы отслеживать соединения, обрабатываемые потоком ожидания, обычные входящие соединения и соединения с бекендом.

Требуется дополнительная отладка

На протяжении моего ответа я предполагал, что 400k открытых файлов наблюдается в часы пик. Если это не так, требуется больше отладки, чтобы выяснить, какие файлы (или файловые дескрипторы) используются.

Один из способов сделать это – выполнить следующую команду:

lsof -p $(pgrep cache-main)

Эта команда перечислит различные файловые дескрипторы, которые используются для этого процесса.

И, конечно, выполните следующую команду с объединенными параметрами, чтобы перечислить все потоки и соединения:

varnishstat -f "MAIN.threads" -f "WAITER.*.conns" -f "MAIN.sess_conn" -f "MAIN.backend_conn"