Лакировка очень высокого числа открытых файлов [закрыто]

Вопрос или проблема

/usr/sbin/varnishd \
      -a 127.0.0.1:6081 \
      -T 127.0.0.1:6082 \
      -f /varnish/default.vcl \
      -P %t/%N/varnishd.pid \
      -s malloc,4G \
      -p thread_pools=12 -p thread_pool_min=250 -p default_ttl=1 -p default_grace=0 -p timeout_idle=1800

Ответ или решение

Объяснение высокой нагрузки на открытые файлы в Varnish

При работе с Varnish, важным аспектом является управление ресурсами, особенно числом открытых файлов, что может оказать значительное влияние на производительность и стабильность вашей системы. Рассмотрим ситуацию, когда вы наблюдаете превышение в 400,000 открытых файлов при заданной конфигурации, имеющей 12 пулов потоков и минимальное количество потоков в 250.

1. Понимание конфигурации и её влияния

Ваш текущий конфиг запуска Varnish указывает на создание большого количества потоков. Формула, которую вы представили – 12 пулов по 250 потоков каждый, действительно ведёт к созданию 3000 потоков в общей сложности. Предполагается, что каждый поток может потреблять ресурсы операционной системы, включая открытые файлы.

2. Почему так много открытых файлов?

Варниш использует потоки для обработки входящих запросов. Каждый поток может открывать несколько файлов, включая сетевые соединения, соединения с базами данных и файлы кеша. При достижении высоких нагрузок, каждый поток может дополнительно открывать файлы для управления сессиями, кэшированием объектов и так далее. Это объясняет, почему количество открытых файлов может быстро нарастать до невероятных величин.

3. Нормальность ситуации

Хотя количество открытых файлов в 400,000 может показаться тревожным, это не редкость для высоконагруженных систем. Каждый активный поток будет использовать файлы для обработки запросов, поэтому такое поведение может быть вполне ожидаемым. Однако стоит обратить внимание на следующее:

• Пределы системы: Проверьте параметры конфигурации вашей ОС, такие как fs.file-max и лимиты пользователя на открытые файлы. Возможно, они недостаточны для вашей нагрузки.
• Оптимизация потоков: Возможно, стоит пересмотреть необходимость в таком количестве потоков. Увеличение ограничения на количество потоков может привести к неэффективному использованию ресурсов. Возможно, стоит поэкспериментировать с уменьшением числа потоков, чтобы понять, как это повлияет на производительность.

4. Рекомендации по оптимизации

Чтобы минимизировать количество открытых файлов и оптимизировать конфигурацию Varnish, рассмотрите следующие шаги:

• Анализ нагрузки: Оцените реальные требования к числу потоков на основе текущих нагрузок, проведите нагрузочное тестирование.
• Настройки потоков: Попробуйте уменьшить параметры thread_pool_min и исследуйте влияние на общую производительность.
• Мониторинг: Регулярно отслеживайте использование ресурсов с помощью инструментов мониторинга, таких как htop, netstat и lsof, чтобы определить, какие потоки создают большую нагрузку на открытые файлы.

5. Заключение

Решение проблемы с высокой нагрузкой на открытые файлы в Varnish требует как мониторинга, так и экспериментов с конфигурацией. Ваша текущая настройка не подходит для всех сценариев, и снижение количества потоков может существенно улучшить ситуацию. Примените вышеперечисленные рекомендации для достижения оптимального соотношения между производительностью и использованием ресурсов.

Таким образом, управляя количеством потоков и открытых файлов, вы сможете обеспечить стабильную работу вашего сервиса.