Искусственный интеллект в компании: создание ценности без повышения рисков для бизнеса

Автор статьи: Giuliana Barba и Marianna Lezzi, обе имеют степень PhD Università del Salento.

Генеративный искусственный интеллект (GenAI) представляет собой совокупность современных моделей искусственного интеллекта (AI), обученных на огромных объёмах данных и способных создавать новый контент, включая тексты, изображения и код. Например, Large Language Models (LLMs) — это модели GenAI, способные понимать и генерировать естественный язык с высокой степенью связности и контекстуальности (Barba et al., 2025). К другим примерам относятся Generative Adversarial Networks (GANs), основанные на конкурентном механизме между двумя нейронными сетями — генератором и дискриминатором — который позволяет создавать высокореалистичные синтетические данные (Ayyaz & Malik, 2024). Несмотря на различия в структуре и назначении, эти модели объединяет способность изучать сложные представления данных и генерировать правдоподобные результаты.

Внедрение GenAI в промышленных условиях представляет собой структурную трансформацию систем управления конфиденциальностью и информационной безопасностью, позволяя автоматически выявлять аномалии, создавать синтетические данные и моделировать сценарии атак. В этом смысле GenAI является социотехнической технологией, способной одновременно переопределять защитные возможности и поверхности риска: с одной стороны, усиливая предотвращение, выявление и реагирование на угрозы, с другой — расширяя технические и социально-организационные точки уязвимости, возникающие вследствие интеграции технологии в информационные системы и процессы принятия решений (Storey et al., 2025).

Однако GenAI также несёт значительные риски, особенно в критически важных отраслях, таких как здравоохранение и оборона (Nyoto & Devega, 2024). Например, модели GenAI могут использоваться для усиления атак социальной инженерии, включая spear phishing и deepfake, угрожая репутации и операционной непрерывности организаций и облегчая более масштабные атаки, включая кражу информации. Возникают и серьёзные проблемы в сфере data governance. Эмпирические данные показывают, что неконтролируемое использование увеличивает риски (Diro et al., 2025): 62% сотрудников вводят чувствительную информацию в системы GenAI, 48% передают непубличные данные, а 45% раскрывают информацию, связанную с сотрудниками, что может приводить к утечке proprietary code и конфиденциальных заметок.

Возможности GenAI

Исследования показывают, что GenAI способна существенно усиливать механизмы защиты. В частности, генеративные модели, такие как LLMs, могут использоваться для автоматического обнаружения аномалий и выявления подозрительного поведения в сложных системах (Ferrag et al., 2024). Аналогичным образом GANs способны динамически моделировать нормальные и аномальные patterns, повышая эффективность intrusion-detection systems в промышленных киберфизических средах (Amato et al., 2024). Это особенно важно в средах Industrial Internet of Things (IIoT), где управление безопасностью требует анализа в реальном времени и в больших масштабах.

Одним из ключевых вкладов GenAI в защиту конфиденциальности является создание синтетических данных. Концепция “privacy-by-synthesis” позволяет формировать искусственные datasets, которые сохраняют статистические свойства реальных данных, не раскрывая чувствительную информацию. Это помогает преодолеть нормативные и операционные ограничения, связанные с обменом данными, и способствует сотрудничеству между промышленными участниками (Partovian et al., 2024). Интеграция с federated learning — распределённым подходом, при котором модели обучаются локально на данных отдельных участников без необходимости централизованной передачи — позволяет сохранять данные у исходных владельцев, дополнительно снижая риск утечки и улучшая соответствие требованиям защиты данных (Hoefler et al., 2024).

Важным элементом является и интеграция GenAI с blockchain-технологиями, которая может укрепить безопасность и целостность промышленной информации за счёт неизменяемых распределённых реестров и механизмов отслеживания. Такая интеграция способствует децентрализованным моделям governance, в которых процессы создания синтетических данных и анализа могут проверяться без нарушения конфиденциальности (Ghani et al., 2024). Характерный пример — здравоохранение, где GenAI используется для генерации синтетических клинических данных для исследований и обучения диагностических моделей без прямого раскрытия чувствительной информации о пациентах и при сохранении высоких стандартов безопасности и нормативного соответствия.

Ещё одно направление применения связано с расширенным моделированием реалистичных сценариев атак, позволяющим организациям проверять устойчивость собственных систем. Например, активные защитные системы на основе GANs, способные создавать обманные среды, могут значительно снижать вероятность успешной атаки и увеличивать время, необходимое для компрометации системы (Qin et al., 2024). Эти результаты показывают, что GenAI может поддерживать проактивный подход к безопасности, усиливая risk management и операционную непрерывность.

Риски GenAI

Наряду с возможностями литература подчёркивает и риски, связанные с GenAI. Одно из направлений касается её наступательного использования. Генеративные модели могут применяться для создания высокоперсонализированных spear-phishing атак (Yamin et al., 2021) и автоматической генерации вредоносного кода (Gupta et al., 2023). Deepfake представляет дополнительный риск, поскольку позволяет создавать крайне реалистичный контент, способный подрывать доверие и информационную безопасность (Vijaya et al., 2023). Существенной проблемой остаётся и уязвимость систем к model inversion и inference attacks, которые позволяют восстанавливать частные данные из обученных моделей (Hu et al., 2024).

Другие проблемы связаны с обучающими данными, которые могут быть неполными, непроверенными или содержать bias. Это может снижать надёжность моделей, приводить к искажённым или дискриминационным решениям и создавать уязвимости, которыми могут воспользоваться злоумышленники, например через data poisoning или манипулирование training data (Barba et al., 2024).

На организационном уровне значительным источником риска является неправильное использование GenAI сотрудниками. Например, в случае Samsung ввод конфиденциальной информации в системы GenAI привёл к раскрытию proprietary code и внутренних заметок, наглядно продемонстрировав риск информационных утечек (Diro et al., 2025). Это показывает, что безопасность зависит не только от технологических решений, но и от организационных практик, правил использования и обучения сотрудников.

Наконец, возникают серьёзные проблемы governance и регулирования, связанные с неспособностью существующих нормативных моделей полноценно решать вопросы ответственности, copyright и защиты данных (Taeihagh, 2025). Ограниченная прозрачность моделей, часто воспринимаемых как “black boxes”, также ограничивает возможность обеспечения accountability и контроля над автоматизированными процессами принятия решений (Abumalloh et al., 2024). Дополнительным риском является концентрация технологической власти в руках небольшого числа глобальных игроков, что имеет важные последствия для безопасности, конкуренции и суверенитета данных (Srivastava et al., 2025).

Практические рекомендации

Комплексное рассмотрение возможностей и рисков GenAI показывает, что её внедрение в промышленных условиях должно происходить осознанно и постепенно. Для менеджеров главный вопрос заключается не в том, внедрять ли эту технологию, а в том, как сделать это стратегически, балансируя операционные преимущества и риски. Исследования показывают, что GenAI способна обеспечивать существенные преимущества в эффективности, снижении затрат и аналитических возможностях, однако эти преимущества полностью реализуются только при наличии достаточных организационных и governance-компетенций.

Первой практической рекомендацией является отказ от имитационных подходов или решений, принимаемых исключительно под давлением конкуренции. Перед внедрением GenAI необходим структурированный анализ trade-offs, учитывающий как ожидаемую экономическую отдачу, так и скрытые издержки, связанные с безопасностью, управлением данными, нормативным compliance и технологической зависимостью (Fischer, 2024). Цифровая трансформация требует постоянного перераспределения ресурсов и компетенций; без такой способности внедрение технологий рискует создавать не ценность, а неэффективность или новые уязвимости (Vial, 2019). Кроме того, управление GenAI требует системного подхода. Решения о внедрении должны учитывать защиту stakeholders, включая сотрудников, клиентов и партнёров. Это предполагает практики “security-by-design” и “privacy-by-design”, а также чёткие организационные правила использования GenAI, направленные на предотвращение рискованного поведения, такого как непреднамеренная передача чувствительных данных (Abdel-Basset et al., 2023).

В условиях высокой концентрации технологической власти у небольшого числа крупных компаний менеджерам также следует внимательно оценивать возможность использования open-source решений или гибридных моделей, обеспечивающих больший контроль над данными, прозрачность и гибкость. Открытые экосистемы могут снижать риск technological lock-in, способствовать развитию внутренних компетенций и поддерживать более справедливое распределение ценности, создаваемой инновациями (Bagdasarian, 2020).

Внедрение GenAI также существенно меняет профессиональные требования, делая необходимыми систематическое обучение и постоянное повышение квалификации. Риск skill gap вполне реален и может привести к новым формам организационного и социального неравенства. Поэтому инвестиции в обучение становятся стратегическим инструментом развития человеческого капитала и обеспечения эффективного и ответственного использования технологий (Mahmoud et al., 2025).

Наконец, необходимо учитывать темп внедрения трансформационных технологий. Хотя конкурентное давление подталкивает компании к быстрому внедрению GenAI, исследования показывают, что неконтролируемое ускорение может привести к формам “разрушительной конкурентоспособности”, когда инновации создают системные риски, превышающие их преимущества (Mäkitie et al., 2023). Отсутствие адекватных механизмов регулирования и governance может также усиливать различия между компаниями, влиять на общество и подрывать доверие к цифровым системам (Taeihagh, 2025).

Заключение

Трансформационный потенциал GenAI в менее исследованных, но стратегически важных областях — таких как создание синтетических данных, federated learning и интеграция с распределёнными технологиями — позволяет формировать новые модели защиты и управления данными. Однако именно эта эволюция выявляет структурный парадокс: те же технологии, которые усиливают защитные возможности, одновременно расширяют и усложняют поверхности риска. Возможность моделировать атаки, создавать реалистичные данные и автоматизировать сложные процессы не только повышает устойчивость систем, но и предоставляет новые возможности злоумышленникам, делая ландшафт угроз более динамичным и трудным для управления.

В этом контексте растущее внимание к так называемой responsible AI является важным, но недостаточным шагом. Этические модели и governance frameworks рискуют остаться формальными или декларативными, если не сопровождаются реальным изменением организационных практик. Этика GenAI не может быть сведена к набору рекомендаций; она должна быть интегрирована в процессы принятия решений, поведение сотрудников и корпоративную культуру. Без такой интеграции ответственность рискует превратиться в поверхностный compliance, неспособный повлиять на реальные способы использования технологии.

В заключение, GenAI является одной из наиболее прорывных и всеобъемлющих технологий современной цифровой трансформации. Именно поэтому её следует воспринимать как возможность пересмотреть и исправить структурные слабости существующих систем governance и безопасности. Снижение рисков возможно, но требует прежде всего явного признания уязвимостей и готовности перевести это понимание в конкретные действия.