Менеджеры и ИИ: кто решает?

Компании все чаще полагаются на искусственный интеллект в процессах принятия решений.Как использовать потенциал технологий, не теряя при этом последнее слово?

Майкл Шраге— исследователь Инициативы по цифровой экономике Школы менеджмента Слоана Массачусетского технологического института.Дэвид Кирон>— редакционный директорОбзор управления MIT Sloanи руководитель исследовательской программы «Большие идеи»

Опубликовано в выпуске 2, март/апрель 2025 г. – Mit Sloan Management Review, Италия.

Внедрение агентов искусственного интеллекта (ИИ) в масштабе меняет то, как компании определяют, проектируют и реализуют среду принятия решений¹. Наше исследование показывает, что организации, которые используют ИИ для создания набора сложных вариантов выбора, а не одного, «лучшего» или «оптимального» решения, достигают превосходных результатов во многих отраслях. Эти интеллектуальные системы не просто улучшают процесс принятия решений, они подталкивают организации пересмотреть права принятия решений, системы подотчетности и динамику власти среди лиц, принимающих решения.

Основываясь на принципах архитектуры выбора поведенческой экономики, наша концепция архитектуры интеллектуального выбора показывает, как эти все более сложные системы меняют процесс принятия корпоративных решений² (вставка 1). Объединив генеративные и прогнозирующие возможности искусственного интеллекта для создания, уточнения, определения приоритетов и представления вариантов, ICA выходят за рамки традиционных механизмов рекомендаций. Будучи агентами ИИ, ICA могут формулировать и объяснять компромиссы, выявлять скрытые возможности и учиться на результатах, чтобы уточнить будущий выбор. ICA знаменуют собой решительный переход от использования алгоритмов, в основном для автоматизации задач, к использованию ИИ в качестве архитектора превосходной среды принятия решений.

Возьмем крупную розничную компанию, чей отдел кадров использует ИИ для выявления новых талантов в сфере продаж и мерчандайзинга, что является стратегическим императивом. Хотя система искусственного интеллекта доказывает свою способность выявлять кандидатов с высоким потенциалом в неожиданных уголках организации, быстро становится ясно, что эти исключительные работники останутся недооцененными без новой системы прав принятия решений, регулирующих решения по развитию, переводу и продвижению по службе. Успех требует внедрения совместной, основанной на данных архитектуры принятия решений, которая согласовывает варианты развития талантов со стимулами руководства, организационными приоритетами и конкретными результатами. Урок ясен: чтобы раскрыть ценностный потенциал внутренних талантов, необходимо перераспределить права принятия решений.

По мере развития возможностей искусственного интеллекта ICA выйдут за рамки простых инструментов поддержки принятия решений и станут сложными системами расширения для людей, принимающих решения. Они создадут новую мощную структуру, в которой человеческое суждение и искусственный интеллект будут работать вместе для увеличения создания ценности для бизнеса (Исследование).

Вставка 1 – Архитектуры интеллектуального выбора (ICA)Архитектуры интеллектуального выбора — это динамические системы, которые сочетают в себе генеративные и прогнозирующие возможности искусственного интеллекта для создания, уточнения, определения приоритетов и представления вариантов выбора для лиц, принимающих решения, и совместно с ними. Они активно извлекают уроки из результатов, ищут информацию и модифицируют варианты, доступные лицам, принимающим решения.

ИсследованияВ этой второй статье из серии «Стратегические измерения на 2024–2025 годы», написанной в сотрудничестве с Tata Consultancy Services, рассматривается, как ведущие организации интегрируют прогнозирующий и генеративный искусственный интеллект для разработки и предоставления лучшего выбора людям, принимающим решения. Наше исследование, основанное на интервью с руководителями шести крупнейших отраслевых групп, показывает появление архитектур интеллектуального выбора – новой парадигмы, в которой системы искусственного интеллекта активно участвуют в структурировании и формировании стратегических решений. Последствия для организационной эффективности, прав принятия решений и стратегической гибкости значительны, особенно когда компании сталкиваются с растущей сложностью и сжатием циклов принятия решений.

Права на принятие решений 2.0

Покойный профессор Гарвардской школы бизнеса Майкл Дженсен посвятил десятилетия исследований выяснению того, как распределение прав принятия решений влияет на корпоративную эффективность и что компании могут сделать, чтобы распределить их наиболее эффективно. Дженсен утверждал, что распределение прав принятия решений является «чрезвычайно сложной и противоречивой управленческой задачей», предупреждая о потенциальных опасностях гиперцентрализации и гипердемократизации процесса принятия решений.

По мере того как составные системы ИИ – системы, сочетающие в себе прогнозирующий и генеративный ИИ – учатся становиться более сложными архитекторами выбора, фокус компаний смещается с исполнения решений на их проектирование. Менеджеры становятся ответственными за среду принятия решений, в которой работают сотрудники, в том числе за то, когда предложения, сгенерированные ИИ, следует принимать во внимание, а когда их можно игнорировать. Насколько мощными или ограничивающими должны быть сгенерированные наборы интеллектуальных вариантов выбора для принятия решений руководителями и менеджерами? Рассмотрим, например, торговый алгоритм, который обнаруживает новую рыночную модель. Стоит ли ему ждать подтверждения со стороны человека, прежде чем действовать? А как насчет агента ICA, управляющего операциями цепочки поставок и определяющего более эффективную логистическую стратегию: какие разрешения необходимы для ее реализации? При каких условиях организация должна поощрять человеческую инициативу в отношении послушания и подчинения? Это вопросы, которые лидеры должны рассмотреть.

Агенты ICA должны отражать и уважать ценности и стремления организации. В эпоху права принятия решений 2.0 компании должны определить, кто обладает полномочиями и ответственностью за разработку, внедрение и управление средой выбора, в которой пересекаются человеческое суждение и возможности ICA. Этот орган несет явную ответственность как за непосредственные результаты, так и за долгосрочную эффективность архитектур решений. Это новое определение, основанное на искусственном интеллекте, поднимает права принятия решений из набора бизнес-правил и практик относительно того, кто может принимать конкретные решения, что они могут решать, и как стратегические решения влияют на то, как организации используют объединенную силу человеческого суждения и искусственного интеллекта.

>Фактически, агенты ICA не просто обеспечивают поддержку принятия решений, но создают среду принятия решений, в которой лучший выбор возникает в результате взаимодействия между машинным интеллектом и человеческим суждением. Подумайте о системах управления полетами коммерческой авиации, которые консультируют пилотов: они не просто обрабатывают навигационные данные, они хранят данные о траектории полета и адаптируются к различным маршрутам, погодным условиям и предпочтениям пилота, работая при этом в рамках строгих параметров безопасности. Аналогично, корпоративные агенты ICA постоянно учатся, действуя в рамках четких операционных, юридических и нормативных границ.

Это напрямую направлено против слишком распространенного страха, что все более интеллектуальные и способные системы искусственного интеллекта сделают человеческое суждение маргинальным и/или неуместным. В действительности все наоборот. Когда агенты ICA берут на себя тяжелую работу по анализу данных, распознаванию образов и оптимизации, они освобождают своих коллег-людей и сотрудников, чтобы они могли сосредоточиться на задачах более высокого порядка.

Liberty Mutual фактически создала агента ICA для помощи в обучении новых специалистов по урегулированию убытков, предлагая им более персонализированное обучение, основанное на 20 тысячах статей знаний компании. Этот агент ICA помогает специалистам по монтажу более эффективно обрабатывать входящие звонки клиентов и быстро разрешать претензии. Агент Ica — это одна из реализаций AI Gen в компании. Кроме того, через год после внедрения LibertyGpt, внутреннего экземпляра OpenAI ChatGpt, общекорпоративного, в Liberty Mutual наблюдалось повышение и поддержание внутренней производительности сотрудников. По словам Моники Калдас, глобального директора по информационным технологиям компании, это сэкономило более 200 000 часов на человека по сравнению с предыдущими расчетными нагрузками.

При использовании ICA важные бизнес-решения зависят от характера и цели среды интеллектуальных решений, а также от рынков, продуктов, культуры или стратегии. Новый акцент появляется на правах на метарешения: разработке и управлении системами, которые генерируют выбор. Новый императив принятия метарешений требует, чтобы человеческие лидерские группы и интеллектуальные алгоритмы объединились, чтобы определить, как права принятия решений вокруг прав принятия решений должны эффективно распределяться человеческими лидерами и передовыми алгоритмами, ответственными за эти права. По иронии судьбы, у лидеров, стремящихся максимизировать ценность ИИ, нет иного выбора, кроме как выполнить эти обязательства по метарешению.

Сейсмические сдвиги на предприятии агентства искусственного интеллекта

Мы видим, что происходят три структурных изменения, которые потребуют от лидеров активного решения проблемы распределения прав принятия решений, полномочий и практики принятия решений на предприятии агентства по искусственному интеллекту.

Потоки энергии для архитекторов разумного выбора.По мере распространения ICA по всему предприятию фокус прав принятия решений сместится от тех, кто принимает решения, к тем, кто создает лучшую среду принятия решений. Так обстоит дело с французской транснациональной фармацевтической компанией Sanofi, где ICA систематически способствуют совершенствованию процесса принятия решений. Исследовательские и инновационные группы компании приняли стратегии, основанные на данных, для оптимизации инвестиций в проекты и решения таких проблем, как>невозвратные затратыпредвзятость — распространенная ловушка в отрасли, которая может затруднить переход от неэффективных предприятий. Системы искусственного интеллекта Sanofi теперь позволяют руководителям уверенно перенаправлять ресурсы на основе аналитики, основанной на данных. Такая трансформация процесса принятия решений демонстрирует способность хорошо продуманных ICA усиливать человеческое суждение и обеспечивать соответствие решений бизнес-целям. Как отмечает Эммануэль Френехард, директор по цифровым технологиям Sanofi: «Мы используем ICA в первую очередь для систематического снижения когнитивных искажений человека». Ключевой функцией ICA Sanofi является обеспечение того, чтобы решения по портфелю принимались на основе данных, а не эмоциональных привязанностей или прошлых расходов.

Сетевые эффекты усиливают и улучшают интеллект при принятии решений.ICA создают сетевые эффекты, благодаря которым каждое решение повышает точность прогнозирования системы и качество будущих решений. ICA транснациональных платежных технологий Mastercard, например, те, которые активно выявляют модели транзакций для предотвращения мошенничества и устранения ненужных отклонений по картам, являются примером этого благотворного цикла. Каждая транзакция, проходящая через систему, повышает эффективность ICA, что приводит к более эффективному обнаружению аномалий и улучшению качества обслуживания клиентов. Лидеры создают среду принятия решений, позволяющую постоянно совершенствовать себя в процессе работы, что усиливает сетевой эффект. Это гарантирует, что возможности обучения ICA принесут пользу всей организации (не говоря уже о торговых предприятиях, эмитентах карт и держателях карт). Грег Ульрих, директор по данным и искусственному интеллекту, объясняет: «Благодаря большему количеству данных мы повышаем ценность наших услуг. Увеличивая количество услуг, мы увеличиваем ценность нашей платежной экосистемы».

Оптимизация в реальном времени меняет определение полномочий и контроля.Алгоритмическая торговля и программная реклама иллюстрируют, как агенты ICA могут автономно и динамично совершенствовать тактику для максимизации результатов быстрее, чем могут достичь менеджеры-люди. В этих контекстах передача полномочий по принятию решений этим агентам увеличивает вероятность достижения положительных результатов. Это явление также наблюдается при прогнозировании доходов. В фармацевтической компании агент ICA использовался для создания альтернативных вариантов прогнозирования доходов. По мере развития модели более точные прогнозы были получены благодаря сотрудничеству между финансовыми менеджерами и агентом ICA. Другими словами, агент ICA превратился из инструмента поддержки принятия решений в помощника. В конечном итоге агент Ica стал еще точнее без вмешательства человека. В этом контексте квазиавтономный агент получил полномочия определять прогнозы доходов и динамически изменять их в зависимости от появления новой информации.

Эти три изменения требуют фундаментального переосмысления корпоративных властных структур. Успех в эпоху искусственного интеллекта принадлежит людям-руководителям, которые готовы совместно создавать и организовывать среду интеллектуального выбора, которая гарантирует, что человеческое суждение будет адекватно участвовать в создании ценности. Вопрос для лидеров, отвечающих за организационное проектирование, изменится с «Кто будет принимать решения?» до «Как мы можем разработать более эффективные способы принятия решений?».

Предвидеть конфликты власти

Прагматично, ICA не ограничиваются тем, что являются инструментами, которые информируют людей о решениях, но представляют собой организации, которые могут научиться развивать способности принятия решений самостоятельно. Эти возможности представляют собой фундаментальную проблему управления: по мере того, как ICA учатся и совершенствуются, они превращаются из простых инструментов поддержки принятия решений во все более способных лиц, принимающих решения, которые могут соответствовать экспертным человеческим качествам или даже превосходить их. Когда способность ICA принимать эффективные решения превышает формально предоставленные ему права принятия решений, возникает внутренний конфликт: дилемма обучающегося органа. Чтобы решить эту проблему и использовать весь потенциал этих интеллектуальных систем, организациям необходимы динамичные структуры управления, которые систематически оценивают возможности ICA и намеренно расширяют их полномочия, когда это необходимо, сохраняя при этом адекватный надзор и контроль. Балансирование преимуществ расширенных возможностей с поддержанием подотчетного управления по мере того, как ICA выходят за рамки своих первоначальных ограничений принятия решений, станет императивом лидерства для масштабного развертывания агентов ИИ (Вставка 2).

Вставка 2 – Права на принятие решений в эпоху ИИОрганизации должны перестроить систему прав принятия решений на основе трех фундаментальных принципов:1. Архитектурный авторитет: преимущество будет у тех, кто знает, как лучше всего спроектировать выбранную среду.2.Сетевой интеллект: права принятия решений будут распространяться на все сети человека и искусственного интеллекта.3.Динамическая подотчетность: системы измерения будут оценивать как выбор, так и результаты.

Появление метаответственности

По мере того, как ИИ становится все более искушенным в разработке решений для людей и вместе с ними, наиболее важные права принятия решений будут сосредоточены на метарешениях или выборе того, как проектировать системы, которые делают выбор. Таким образом, будет создана новая иерархия прав принятия решений, в которой право формировать среду принятия решений заменит право принимать индивидуальные решения. Лидеры начинают нести ответственность не только за решения, которые они принимают, но и за качество создаваемых ими МКА.

Среди действий, которые лидеры могут предпринять, чтобы двигаться в этом новом направлении, можно назвать:

Предвидьте управление для систем выбора, основанных на искусственном интеллекте: компании должны установить этические, стратегические и операционные границы для своих ICA.Повышение когнитивного вклада: для этого требуется переход от тактического обеспечения принятия решений к контролю над созданием интеллектуальных сред принятия решений.Обеспечить согласованность: лидеры должны создавать системы и процессы, обеспечивающие, чтобы решения, принимаемые с помощью ИИ, способствовали достижению ценностей и целей организации.Установите новые показатели: они должны измерять качество и разнообразие вариантов выбора, эффективность среды принятия решений, скорость обучения и адаптации, а также оптимизацию сетевого интеллекта.

Будущее принадлежит не тем, кто принимает лучшие решения, а тем, кто создает лучшую среду для принятия решений.

Мы хотели бы поблагодарить следующих людей, которые дали интервью для этой статьи:Моника Калдас, глобальный директор по информационным технологиям, Liberty Mutual InsuranceЭммануэль Френехард, руководитель отдела цифровых технологий SanofiГрег Ульрих, руководитель отдела данных и искусственного интеллекта Mastercard

>ПРИМЕЧАНИЕ:

1. В контексте данного исследования среда принятия решений — это динамическая среда, в которой люди и алгоритмы рассматривают сложную информацию, конкурирующие приоритеты и ограничения для принятия последовательных решений.

2. М. Шраге и Д. Кирон, «Разумный выбор меняет процесс принятия решений и производительность», MIT Sloan Management Review, 29 октября 2024 г.,https://sloanreview.mit.edu.

Показать все ссылки.

3. Дженсен, М. «Право на принятие решений: кто дает зеленый свет?». Рабочие знания Гарвардской школы бизнеса, 8 августа 2005 г.,www.library.hbs.edu.