параллельная работа с KNN в Python

Содержание

Вопрос или проблема
Ответ или решение
Основные шаги
Пример кода
Объяснение кода
Заключение

Вопрос или проблема

У меня есть вопрос, связанный с параллельной работой на Python.

Как я могу использовать Processors =1,2,3… в алгоритме k ближайших соседей, когда K=1, 2, 3,.. для нахождения изменения времени, затраченного на выполнение, ускорения и эффективности.

Какой код подходит для этого?

Насколько мне известно, KNN занимает время только в том случае, если размер данных очень велик. В то же время обычный GridSearchCV сам хорошо работает с большим количеством K, см. этот сайт – https://machinelearningknowledge.ai/knn-classifier-in-sklearn-using-gridsearchcv-with-example/.
Если вы все же хотите запустить в параллельном режиме, создайте метод, в котором вы подгоняете KNN, принимая значение K в качестве параметра этого метода.
Создайте подсистемы для каждого значения K в главном методе и вызывайте метод KNN, передавая значение K.
Код будет более сложным, если вы напишите его таким образом, поскольку нам нужно будет написать логику для сравнения точности каждой подгонки относительно кросс-валидации и т. д.

Ответ или решение

Для выполнения параллельной обработки алгоритма k ближайших соседей (KNN) в Python, мы можем использовать модуль multiprocessing, который позволяет создавать отдельные процессы для повышения производительности при работе с большими данными. Ниже представлена пошаговая инструкция с соответствующим кодом, чтобы исследовать время выполнения, скорость и эффективность работы алгоритма KNN с различными значениями K.

Основные шаги

Подготовка данных: Подготовьте набор данных, который будет использоваться для тестирования. Если данных слишком мало, использование KNN может не дать ощутимого выигрыша по времени.
Определение функции KNN: Создайте функцию, которая будет принимать значение K и возвращать время обработки и точность.
Параллельное выполнение: Используйте библиотеку multiprocessing для параллельного выполнения KNN с разными значениями K.
Измерение времени, скорости и эффективности: Время выполнения будет замеряться для каждого процесса для последующего анализа.

Пример кода

import numpy as np
import pandas as pd
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.neighbors import KNeighborsClassifier
from sklearn.metrics import accuracy_score
import time
import multiprocessing

# Функция для запуска KNN и возврата точности и времени
def run_knn(k, X_train, X_test, y_train, y_test):
    start_time = time.time()  # Запуск таймера
    model = KNeighborsClassifier(n_neighbors=k)
    model.fit(X_train, y_train)
    predictions = model.predict(X_test)
    accuracy = accuracy_score(y_test, predictions)
    end_time = time.time()  # Остановка таймера
    execution_time = end_time - start_time
    return (k, execution_time, accuracy)

if __name__ == '__main__':
    # Загрузка данных Iris
    iris = load_iris()
    X = iris.data
    y = iris.target

    # Разделение данных на обучающую и тестовую выборки
    X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

    # Задание диапазона K
    k_values = range(1, 11)  # K от 1 до 10

    # Создание пула процессов
    with multiprocessing.Pool(processes=multiprocessing.cpu_count()) as pool:
        results = pool.starmap(run_knn, [(k, X_train, X_test, y_train, y_test) for k in k_values])

    # Вывод результатов
    for k, exec_time, accuracy in results:
        print(f"K: {k}, Время выполнения: {exec_time:.4f} с, Точность: {accuracy:.4f}")

    # Дополнительные вычисления для скорости и эффективности
    # (усредненное время и точность для примера)
    avg_time = np.mean([result[1] for result in results])
    avg_accuracy = np.mean([result[2] for result in results])

    print(f"Среднее время выполнения: {avg_time:.4f} с, Средняя точность: {avg_accuracy:.4f}")

Объяснение кода

Импорт необходимых библиотек: Он включает библиотеки для работы с данными, моделями и параллелизацией.
Функция run_knn: Эта функция принимает текущее значение K и данные, обучает модель KNN, предсказывает и вычисляет точность и время выполнения.
Параллелизм: Используется multiprocessing.Pool, чтобы создать пул процессов и запустить вычисления для каждого K в параллельном режиме.
Вывод результатов: После завершения расчетов функция выводит время выполнения и точность для каждого значения K.

Заключение

Запуск KNN в параллельном режиме может значительно ускорить ваши расчеты, особенно на больших наборах данных. Приведенный код позволит вам не только понять, как протекает процесс обучения с различными значениями K, но и даст возможность оценить время выполнения, скорость и эффективность. Это важный шаг в оптимизации работы с алгоритмами машинного обучения.

Если у вас есть дополнительные вопросы или вам нужна помощь с конкретными моментами, не стесняйтесь обращаться!