الذكاء الاصطناعي في الشركات: خلق القيمة دون تعريض المؤسسة للمخاطر

مقال بقلم Giuliana Barba وMarianna Lezzi، وكلتاهما حاصلة على درجة الدكتوراه من Università del Salento.

يمثل الذكاء الاصطناعي التوليدي (GenAI) مجموعة من نماذج الذكاء الاصطناعي (AI) المتقدمة، والمدرّبة على كميات هائلة من البيانات، والقادرة على إنشاء محتوى جديد مثل النصوص والصور والبرمجيات. فعلى سبيل المثال، تُعد Large Language Models (LLMs) نماذج GenAI قادرة على فهم اللغة الطبيعية وإنتاجها بدرجة عالية من الاتساق والسياق (Barba et al., 2025). وتشمل أمثلة أخرى Generative Adversarial Networks (GANs)، التي تعتمد على آلية تنافسية بين شبكتين عصبيتين — مولّد ومميّز — وتتيح إنتاج بيانات اصطناعية شديدة الواقعية (Ayyaz & Malik, 2024). وعلى الرغم من اختلاف هذه النماذج في بنيتها وأهدافها، فإنها تشترك في القدرة على تعلم تمثيلات معقدة للبيانات وإنتاج مخرجات مقنعة.

يمثل اعتماد GenAI في البيئات الصناعية تحولًا هيكليًا في أنظمة إدارة الخصوصية وأمن المعلومات، إذ يتيح الكشف التلقائي عن الحالات الشاذة، وإنشاء البيانات الاصطناعية، ومحاكاة سيناريوهات الهجوم. ومن هذا المنظور، تُعد GenAI تقنية اجتماعية-تقنية قادرة على إعادة تعريف القدرات الدفاعية ومساحات الخطر في الوقت نفسه؛ أي من جهة تعزيز الوقاية والكشف والاستجابة للتهديدات، ومن جهة أخرى توسيع نقاط الضعف التقنية والاجتماعية والتنظيمية الناتجة عن دمجها في أنظمة المعلومات وعمليات اتخاذ القرار (Storey et al., 2025).

ومع ذلك، تقدم GenAI أيضًا مخاطر مهمة، خاصة في القطاعات الصناعية الحساسة مثل الصحة والدفاع (Nyoto & Devega, 2024). ويمكن مثلًا استخدام نماذج GenAI لتوسيع هجمات الهندسة الاجتماعية مثل spear phishing وdeepfake، بما يهدد سمعة المؤسسات واستمرارية أعمالها ويسهّل هجمات أوسع مثل سرقة المعلومات. كما تظهر مشكلات مهمة على مستوى حوكمة البيانات. وتشير الأدلة التجريبية إلى أن الاستخدام غير المنضبط يزيد المخاطر (Diro et al., 2025): إذ يُدخل 62% من الموظفين معلومات حساسة في أنظمة GenAI، ويشارك 48% بيانات غير عامة، بينما يكشف 45% بيانات مرتبطة بالموظفين، مع نتائج خطيرة مثل كشف الشيفرة البرمجية الخاصة والملاحظات السرية.

فرص GenAI

تشير الأدبيات إلى أن GenAI تسهم بشكل كبير في تعزيز آليات الحماية. ويمكن على وجه الخصوص استخدام النماذج التوليدية مثل LLMs للكشف التلقائي عن الحالات الشاذة، بما يسمح بتحديد السلوكيات المشبوهة داخل الأنظمة المعقدة (Ferrag et al., 2024). وبالمثل، يمكن لنماذج مثل GANs أن تمثل ديناميكيًا الأنماط الطبيعية وغير الطبيعية، مما يحسن فعالية أنظمة اكتشاف التسلل في البيئات الصناعية السيبرانية-الفيزيائية (Amato et al., 2024). ويكتسب ذلك أهمية خاصة في بيئات Industrial Internet of Things (IIoT)، حيث تتطلب إدارة الأمن قدرات تحليل لحظية وعلى نطاق واسع.

ويتمثل أحد أهم إسهامات GenAI في حماية الخصوصية في إنشاء البيانات الاصطناعية. إذ يسمح نموذج “privacy-by-synthesis” بإنشاء مجموعات بيانات اصطناعية تحافظ على الخصائص الإحصائية للبيانات الحقيقية من دون كشف المعلومات الحساسة، وهو ما يساعد على تجاوز القيود التنظيمية والتشغيلية المرتبطة بمشاركة البيانات وتشجيع التعاون بين الأطراف الصناعية (Partovian et al., 2024). كما أن التكامل مع federated learning — وهو نهج للتعلم الموزع تُدرّب فيه النماذج محليًا على بيانات يحتفظ بها كل طرف، من دون الحاجة إلى تجميعها مركزيًا — يسمح بإبقاء البيانات في مصادرها الأصلية، ويقلل مخاطر الاختراق ويحسن الامتثال لقواعد حماية البيانات (Hoefler et al., 2024).

ومن العناصر المهمة أيضًا تكامل GenAI مع تقنيات blockchain، بما يعزز أمن المعلومات الصناعية وسلامتها من خلال سجلات موزعة غير قابلة للتغيير وآليات تتبع. ويدعم هذا التكامل نماذج حوكمة لامركزية يمكن فيها التحقق من عمليات إنشاء البيانات الاصطناعية وتحليلها دون المساس بالخصوصية (Ghani et al., 2024). ويظهر مثال مهم في قطاع الصحة، حيث تستخدم GenAI لإنشاء بيانات سريرية اصطناعية لأغراض البحث وتدريب النماذج التشخيصية، مع تجنب التعرض المباشر لبيانات المرضى الحساسة والحفاظ في الوقت ذاته على معايير مرتفعة من الأمن والامتثال.

ومن مجالات التطبيق الأخرى المحاكاة المتقدمة لسيناريوهات هجوم واقعية، بما يسمح للمؤسسات باختبار قدرة أنظمتها على الصمود. فعلى سبيل المثال، يمكن لأنظمة الدفاع النشط المعتمدة على GANs والقادرة على إنشاء بيئات خادعة أن تقلل بشكل كبير من معدلات نجاح الهجمات وأن تزيد الوقت المطلوب لاختراق الأنظمة (Qin et al., 2024). وتوضح هذه النتائج كيف يمكن لـ GenAI دعم نهج استباقي للأمن وتعزيز قدرات إدارة المخاطر واستمرارية الأعمال.

مخاطر GenAI

إلى جانب الفرص المرتبطة باستخدام GenAI، تؤكد الأدبيات أيضًا المخاطر التي تقدمها هذه التقنية. ويتعلق أحد المجالات بالاستخدام الهجومي لـ GenAI. إذ يمكن استخدام النماذج التوليدية لتطوير هجمات spear-phishing شديدة التخصيص (Yamin et al., 2021)، وكذلك لتوليد الشيفرات الخبيثة بصورة آلية (Gupta et al., 2023). كما يمثل deepfake مصدر خطر إضافيًا لأنه يتيح إنشاء محتوى شديد الواقعية يمكن أن يقوض الثقة وأمن المعلومات (Vijaya et al., 2023). ويضاف إلى ذلك خطر تعرض الأنظمة لهجمات model inversion وinference attack، التي يمكن من خلالها إعادة بناء بيانات خاصة انطلاقًا من النماذج المدرّبة (Hu et al., 2024).

وتتعلق مخاطر أخرى بإدارة بيانات التدريب، التي قد تكون ناقصة أو غير متحقق منها أو تحتوي على تحيزات. ويمكن لهذه المشكلات أن تقلل من موثوقية النماذج، وتولد قرارات مشوهة أو تمييزية، وتفتح ثغرات يمكن للجهات الخبيثة استغلالها، على سبيل المثال من خلال هجمات data poisoning أو التلاعب ببيانات التدريب (Barba et al., 2024).

وعلى المستوى التنظيمي، يمثل الاستخدام غير السليم لـ GenAI من جانب الموظفين مصدرًا مهمًا للمخاطر. ففي حالة Samsung، أدى إدخال معلومات سرية في أنظمة GenAI إلى كشف شيفرة خاصة وملاحظات داخلية، وهو ما أبرز بوضوح خطر تسرب المعلومات (Diro et al., 2025). ويؤكد ذلك أن الأمن لا يعتمد فقط على الحلول التقنية، بل يتطلب أيضًا ممارسات تنظيمية مناسبة، وسياسات استخدام واضحة، وتدريب المستخدمين.

وأخيرًا، تبرز مشكلات مهمة في الحوكمة والتنظيم نتيجة عدم كفاية النماذج التنظيمية الحالية لمعالجة قضايا مثل المسؤولية وحقوق النشر وحماية البيانات (Taeihagh, 2025). كما أن ضعف شفافية النماذج، التي غالبًا ما يُنظر إليها باعتبارها “black boxes”، يحد من إمكانية ضمان المساءلة والتحكم في عمليات اتخاذ القرار الآلية (Abumalloh et al., 2024). ويضاف إلى ذلك خطر تركز القوة التكنولوجية في أيدي عدد محدود من الجهات العالمية، بما يترتب عليه آثار مهمة على الأمن والمنافسة وسيادة البيانات (Srivastava et al., 2025).

إرشادات تشغيلية

تشير القراءة المتكاملة لفرص GenAI ومخاطرها إلى أن اعتمادها في البيئات الصناعية يجب أن يتم وفق منطق واعٍ وتدريجي. وبالنسبة إلى المديرين، لا تتمثل المسألة الأساسية في تحديد ما إذا كان ينبغي اعتماد هذه التقنيات أم لا، بل في كيفية اعتمادها استراتيجيًا مع تحقيق توازن بين الفوائد التشغيلية ومخاطرها. وتوضح الأدبيات أن GenAI يمكن أن تحقق فوائد كبيرة من حيث الكفاءة وخفض التكاليف والقدرات التحليلية المتقدمة، لكن هذه الفوائد تتحقق بالكامل فقط إذا رافقتها قدرات تنظيمية وحوكمة مناسبة.

ومن هذا المنظور، يتمثل أول توجيه تشغيلي في تجنب الأساليب التقليدية أو القرارات المدفوعة فقط بالضغط التنافسي. وينبغي أن يسبق اعتماد GenAI تحليل منظم للمفاضلات، يأخذ في الاعتبار كلًا من العوائد الاقتصادية المتوقعة والتكاليف الخفية المرتبطة بالأمن، وإدارة البيانات، والامتثال التنظيمي، والاعتماد التكنولوجي (Fischer, 2024). وتتطلب عمليات التحول الرقمي إعادة توزيع مستمرة للموارد والمهارات؛ وفي غياب هذه القدرة قد يؤدي اعتماد التكنولوجيا إلى خلق عدم كفاءة أو نقاط ضعف بدلًا من القيمة (Vial, 2019). كما تظهر ضرورة قوية لاعتماد منظور منهجي في إدارة GenAI. ويجب أن تشمل القرارات المتعلقة بتنفيذ هذه التقنيات حماية أصحاب المصلحة، مثل الموظفين والعملاء والشركاء. ويتطلب ذلك اعتماد ممارسات “security-by-design” و“privacy-by-design”، إلى جانب وضع سياسات تنظيمية واضحة لاستخدام GenAI لمنع السلوكيات الخطرة، مثل المشاركة غير المقصودة للبيانات الحساسة (Abdel-Basset et al., 2023).

كذلك، وفي بيئة تتسم بتركيز كبير للقوة في أيدي عدد محدود من كبار الفاعلين التكنولوجيين، ينبغي للمديرين تقييم إمكانية دمج حلول open-source أو نماذج هجينة تتيح تحكمًا أكبر في البيانات وشفافية ومرونة أعلى. ويمكن للأنظمة المفتوحة أن تقلل خطر technological lock-in، وتشجع تطوير القدرات الداخلية، وتساهم في توزيع أكثر عدلًا للقيمة الناتجة عن الابتكار (Bagdasarian, 2020).

كما يغير إدخال GenAI بصورة عميقة متطلبات المهارات المهنية، مما يجعل التدريب والتحديث المستمرين ضرورة. فخطر skill gap حقيقي ويمكن أن يتحول إلى أشكال جديدة من عدم المساواة التنظيمية والاجتماعية. ولذلك يصبح الاستثمار في التدريب أداة استراتيجية لتعزيز رأس المال البشري وضمان استخدام فعال ومسؤول للتكنولوجيا (Mahmoud et al., 2025).

وأخيرًا، من الضروري التفكير في وتيرة اعتماد التقنيات التحويلية. فرغم أن الضغط التنافسي يدفع نحو التطبيق السريع لـ GenAI، تشير الأدبيات إلى أن التسارع غير المحكوم قد يؤدي إلى أشكال من “التنافسية المدمرة”، حيث تولد الابتكارات مخاطر منهجية تتجاوز فوائدها (Mäkitie et al., 2023). كما يمكن لغياب آليات تنظيم وحوكمة مناسبة أن يزيد الفجوات بين الشركات، ويؤثر في المجتمع المدني، ويقوض الثقة في الأنظمة الرقمية (Taeihagh, 2025).

الخلاصة

إن الإمكانات التحويلية لـ GenAI في مجالات لم تُستكشف بعد بما يكفي لكنها ذات أهمية استراتيجية، مثل إنشاء البيانات الاصطناعية، وfederated learning، والتكامل مع التقنيات الموزعة، تتيح نماذج جديدة لحماية البيانات وإدارتها. غير أن هذا التطور يكشف في الوقت نفسه مفارقة هيكلية: التقنيات نفسها التي تعزز القدرات الدفاعية تسهم أيضًا في توسيع مساحات الخطر وزيادة تعقيدها. فالقدرة على محاكاة الهجمات، وإنشاء بيانات واقعية، وأتمتة العمليات المعقدة لا تحسن فقط قدرة الأنظمة على الصمود، بل توفر أيضًا فرصًا جديدة للجهات الخبيثة، وتجعل مشهد التهديدات أكثر ديناميكية وصعوبة في الإدارة.

وفي هذا السياق، يمثل الاهتمام المتزايد بما يسمى responsible AI خطوة مهمة لكنها غير كافية. فقد تبقى النماذج الأخلاقية وأطر الحوكمة شكلية أو خطابية إذا لم ترافقها تحولات فعلية في الممارسات التنظيمية. ولا يمكن اختزال أخلاقيات GenAI في مجموعة من المبادئ التوجيهية، بل يجب دمجها في عمليات اتخاذ القرار، والسلوكيات الفردية، والثقافة المؤسسية. ومن دون هذا التكامل، يوجد خطر حقيقي بأن تتحول المسؤولية إلى مجرد امتثال سطحي لا يؤثر في الطريقة الفعلية لاستخدام التكنولوجيا.

وفي الختام، تبرز GenAI باعتبارها واحدة من أكثر التقنيات تأثيرًا وانتشارًا في التحول الرقمي الحالي. ولهذا السبب بالتحديد، ينبغي النظر إليها كفرصة لإعادة فحص نقاط الضعف الهيكلية في أنظمة الحوكمة والأمن القائمة وتصحيحها. ويمكن تخفيف المخاطر، لكن ذلك يتطلب أولًا اعترافًا واضحًا بنقاط الضعف والاستعداد لتحويل هذا الوعي إلى إجراءات ملموسة.