Data Science
Как запустить две разные модели в одном кадре?
00
Вопрос или проблема У меня есть mask_detector.model и веса yolov3 для социальной дистанции. Я хочу запустить их одновременно с одним потоком веб-камеры. Как я могу запустить их оба, то есть детектировать маску и модель социальной дистанции вместе?
Data Science
Методология параллелизации связанных данных?
00
Вопрос или проблема Если у меня есть какая-то форма данных, которая может иметь внутренние связи со всеми другими данными в наборе, но я хочу разделить эти данные на параллельные части, чтобы увеличить время вычислений или уменьшить размер любого конкретного
Data Science
Как эффективно запускать крупную языковую модель с контекстным окном более 60 000 токенов на нескольких графических процессорах?
00
Вопрос или проблема Я работаю с большой языковой моделью (LLM), которая требует большого контекстного окна в 60 000–70 000 токенов для моего приложения. Моя конфигурация включает пять графических процессоров (GPU): три с 16 ГБ и два с 8 ГБ.
Data Science
Параллелизм моделей не работает в Inception v3 с Keras и TensorFlow
00
Вопрос или проблема Я застрял с такой проблемой уже некоторое время. У меня есть настройка AWS с 500 ГБ ОЗУ и около 7 ГПУ. Проблема в том, что каждый раз, когда я пытаюсь запустить свой Keras с TensorFlow как бекенды, у меня заканчивается память.