Пункты, которые нужно помнить при переходе всей организации на решения на основе ИИ

В нашей организации в настоящее время мы находимся на стадии формирования команды, навыков для автоматизации и внедрения решений на основе ИИ. Таким образом, мы на очень ранней стадии этого пути в область ИИ.

Прямо сейчас мы также работаем над выявлением некоторых проблем, с которыми сталкиваемся в нашем бизнесе. Например, когда у нас есть 8 сегментов клиентов, но только 2 из них приносят много дохода. Остальные показывают плохие результаты. Мы хотели бы выяснить, почему это происходит, с помощью анализа данных/выявления факторов, вызывающих эту проблему.

Хотя всё это кажется выполнимым, я хотел бы попросить ваши рекомендации о том, как мы можем помочь бизнес-пользователям/лидерам понять, что ИИ может и чего не может делать. Потому что я чувствую, что команда бизнеса может быть увлечена ажиотажем вокруг ИИ/МЛ и т. д. Поэтому, как человек, работающий с данными, я считаю своим долгом разъяснить, что можно и нельзя делать с помощью ИИ. И почему мы не можем полагаться на результаты ИИ на 100 процентов. Почему всегда следует проявлять осторожность в доверии к выходным данным ИИ.

Любые книги, статьи, кейс-стадии или статьи и т. д., содержащие эту информацию/пункты для размышления при начале инициативы по внедрению ИИ в организации, могут помочь мне.

Одна из таких статей здесь.

Некоторые важные моменты, которые я могу упомянуть, это:

1. ИИ/МЛ учатся (стабильным) паттернам из того, что им дано. Но, если их заставить, они найдут (неуместные) паттерны даже в шуме.

2. Не могут учиться тому, чего не видели. Поэтому обобщение на самом деле возможно только для вариаций (разрешенных основным архитектурным принципом) того, что уже было увидено (например, когда алгоритм стабилен). Более того, нет фиксированного и уникального способа обобщать, от известных данных к невиданным данным; что связано с проблемой индукции, например, проявляющейся в нестабильных процессах и, как следствие, возникновением феномена недоопределенности теории данными.

3. ИИ/МЛ могут дискриминировать и быть несправедливыми, где требуется справедливость (это может происходить по различным причинам).

4. Это не всегда интерпретируемо, поэтому невозможно знать, почему получен тот или иной результат. Более важно, что нельзя верифицировать (по крайней мере, прямым образом, до факта), происходят ли какие-либо из предыдущих проблем.

Более того, другие ограничения в машинном обучении (и ограничения глубокого обучения), особенно связанные с социальными приложениями, это:

1. При выборе количественного анализа мы жертвуем способностью иметь нарративные понимания смыслообразования, стремимся работать с прокси, а не с фактическими конструкциями, и рискуем
   делегитимизировать жизненный опыт.
2. При выборе вероятностного моделирования мы ограничиваем наше представление о мире как состоящем из фиксированных объектов с характеристиками и
   приоритизируем использование центральной тенденции, а не вовлечения в
   индивидуальность.
3. При приоритизации прогнозирования мы создаем модели, которые не надежны для получения понимания подлежащей системы и чувствительны к
   изменениям и реакциям.
4. При полагании на кросс-валидацию мы рискуем быть чрезмерно оптимистичными относительно общей применимости модели.

Ссылки:

1. Переобучение
2. Ошибка обобщения
3. Стабильность и обобщение в теории обучения
4. Проблема индукции
5. Сдвиг концепции
6. Недоопределенность теории данными
7. Этика, прозрачность и подотчетность ИИ
8. Этический ИИ – это не только то, как вы его строите, это то, как вы его используете
9. Язык обязательно содержит человеческие предвзятости, и машины, обученные на языковых корпусах, также будут это делать
10. Объяснимое глубокое обучение: Поле для новичков
11. Иерархия ограничений в машинном обучении
12. Глубокое обучение: Критическая оценка

У меня нет отличных ссылок для этого ответа, но я заметил это на основе собственного опыта разработки команды в крупной корпорации. Я думаю, что часто сложно людям на уровне руководства понять, что проекты ИИ/МЛ имеют высокий уровень неудач. Часть того, что вы получаете, создавая команду для разработки решений ИИ/МЛ, это команда, которая может экспериментировать. Эксперименты не всегда дают конкретные результаты, но они всегда предоставляют информацию.

Экспериментальный аспект этих команд может казаться неуместным, но крайне важно создать среду, в которой работники могут проводить эксперименты без страха наказания за неудачу. Руководители должны осознавать, что это различие часто отличается от традиционной ИТ/разработки программного обеспечения.