कंपनी में कृत्रिम बुद्धिमत्ता: व्यवसाय को जोखिम में डाले बिना मूल्य सृजन

लेख: Giuliana Barba और Marianna Lezzi, दोनों Università del Salento से PhD हैं।

जनरेटिव कृत्रिम बुद्धिमत्ता (GenAI) उन्नत कृत्रिम बुद्धिमत्ता (AI) मॉडलों का एक समूह है, जिन्हें विशाल मात्रा में डेटा पर प्रशिक्षित किया जाता है और जो नया कंटेंट तैयार कर सकते हैं, जैसे पाठ, चित्र और कोड। उदाहरण के लिए, Large Language Models (LLMs) ऐसे GenAI मॉडल हैं जो प्राकृतिक भाषा को उच्च स्तर की संगति और संदर्भ के साथ समझ और उत्पन्न कर सकते हैं (Barba et al., 2025)। GenAI के अन्य उदाहरणों में Generative Adversarial Networks (GANs) शामिल हैं, जो दो neural networks — एक generator और एक discriminator — के बीच प्रतिस्पर्धात्मक तंत्र पर आधारित होते हैं और अत्यंत यथार्थवादी synthetic data तैयार कर सकते हैं (Ayyaz & Malik, 2024)। संरचना और उद्देश्य में अलग होने के बावजूद, ये मॉडल जटिल data representations सीखने और विश्वसनीय outputs उत्पन्न करने की क्षमता साझा करते हैं।

औद्योगिक संदर्भों में GenAI का उपयोग privacy management और information security systems के लिए संरचनात्मक परिवर्तन का प्रतिनिधित्व करता है। यह automatic anomaly detection, synthetic data generation और attack scenario simulation को संभव बनाता है। इस दृष्टि से GenAI एक sociotechnical technology है जो एक साथ defensive capabilities और risk surfaces दोनों को पुनर्परिभाषित करती है। Defensive capabilities से तात्पर्य उन कार्यों से है जो खतरे की रोकथाम, पहचान और प्रतिक्रिया को मजबूत करते हैं, जबकि risk surfaces उन तकनीकी और सामाजिक-संगठनात्मक कमजोरियों के विस्तार को दर्शाते हैं जो इसे information systems और decision-making processes में शामिल करने से उत्पन्न होती हैं (Storey et al., 2025)।

हालाँकि, GenAI महत्वपूर्ण जोखिम भी प्रस्तुत करती है, विशेष रूप से स्वास्थ्य और रक्षा जैसे संवेदनशील औद्योगिक क्षेत्रों में (Nyoto & Devega, 2024)। उदाहरण के लिए, GenAI मॉडल spear phishing और deepfake जैसी social engineering attacks को अधिक प्रभावी बना सकते हैं, जिससे संगठन की प्रतिष्ठा और operational continuity खतरे में पड़ सकती है और information theft जैसे बड़े हमले आसान हो सकते हैं। Data governance के स्तर पर भी महत्वपूर्ण समस्याएँ सामने आती हैं। शोध दिखाता है कि अनियंत्रित उपयोग जोखिम बढ़ाता है (Diro et al., 2025): 62% कर्मचारी GenAI systems में संवेदनशील जानकारी डालते हैं, 48% गैर-सार्वजनिक डेटा साझा करते हैं और 45% कर्मचारियों से संबंधित डेटा साझा करते हैं, जिसके परिणामस्वरूप proprietary code और confidential notes तक उजागर हो सकते हैं।

GenAI के अवसर

शोध साहित्य दर्शाता है कि GenAI सुरक्षा तंत्रों को मजबूत करने में महत्वपूर्ण योगदान दे सकती है। विशेष रूप से LLMs जैसे generative models का उपयोग automatic anomaly detection के लिए किया जा सकता है, जिससे जटिल प्रणालियों के भीतर संदिग्ध व्यवहार पहचाना जा सके (Ferrag et al., 2024)। इसी प्रकार GANs सामान्य और असामान्य patterns को गतिशील रूप से मॉडल कर सकते हैं, जिससे औद्योगिक cyber-physical environments में intrusion detection systems की प्रभावशीलता बढ़ती है (Amato et al., 2024)। यह Industrial Internet of Things (IIoT) वातावरण में विशेष रूप से महत्वपूर्ण है, जहाँ security management के लिए real-time और large-scale analysis आवश्यक है।

Privacy protection में GenAI का एक केंद्रीय योगदान synthetic data generation है। “privacy-by-synthesis” दृष्टिकोण ऐसे artificial datasets बनाना संभव बनाता है जो वास्तविक डेटा की statistical properties को बनाए रखते हैं, लेकिन संवेदनशील जानकारी उजागर नहीं करते। इससे data sharing से जुड़े regulatory और operational constraints को कम किया जा सकता है और औद्योगिक पक्षों के बीच सहयोग को बढ़ावा मिलता है (Partovian et al., 2024)। इसके अतिरिक्त, federated learning — एक distributed learning approach जिसमें models को अलग-अलग पक्षों के पास मौजूद डेटा पर locally train किया जाता है, बिना डेटा को centrally share किए — के साथ integration, डेटा को उसके मूल स्रोत पर बनाए रखने की अनुमति देता है, जिससे breach risk कम होता है और data-protection regulations के अनुरूपता बेहतर होती है (Hoefler et al., 2024)।

GenAI और blockchain technologies के integration से भी औद्योगिक जानकारी की security और integrity को immutable distributed ledgers और traceability mechanisms के माध्यम से मजबूत किया जा सकता है। यह decentralized governance models को बढ़ावा देता है, जहाँ synthetic-data generation और analysis processes को privacy से समझौता किए बिना verify किया जा सकता है (Ghani et al., 2024)। Healthcare इसका महत्वपूर्ण उदाहरण है, जहाँ GenAI का उपयोग research और diagnostic models के training के लिए synthetic clinical data बनाने में किया जाता है, जिससे patient-sensitive data को सीधे उजागर किए बिना high security और regulatory compliance बनाए रखा जा सके।

GenAI का एक अन्य महत्वपूर्ण उपयोग realistic attack scenarios की advanced simulation है, जिससे संगठन अपने systems की resilience को test कर सकते हैं। उदाहरण के लिए, GAN-based active-defence systems deceptive environments तैयार कर सकते हैं, जिससे attacks की success rate काफी घट सकती है और system compromise करने में अधिक समय लग सकता है (Qin et al., 2024)। ये परिणाम दिखाते हैं कि GenAI proactive security approach को support कर सकती है और risk management तथा business continuity capabilities को मजबूत कर सकती है।

GenAI के जोखिम

अवसरों के साथ-साथ research literature GenAI द्वारा उत्पन्न जोखिमों पर भी जोर देता है। पहला क्षेत्र GenAI का offensive use है। Generative models का उपयोग अत्यधिक personalized spear-phishing attacks विकसित करने (Yamin et al., 2021) और malicious code को automatically generate करने के लिए किया जा सकता है (Gupta et al., 2023)। Deepfake भी महत्वपूर्ण जोखिम है, क्योंकि यह अत्यंत realistic content तैयार कर सकता है जो trust और information security को प्रभावित कर सकता है (Vijaya et al., 2023)। Model inversion और inference attacks के प्रति systems की vulnerability भी महत्वपूर्ण समस्या है, क्योंकि इनके माध्यम से trained models से private data reconstruct किया जा सकता है (Hu et al., 2024)।

अन्य समस्याएँ training data के management से जुड़ी हैं, जो incomplete, unvalidated या biased हो सकता है। इससे models की reliability कम हो सकती है, distorted या discriminatory decisions पैदा हो सकते हैं और ऐसी vulnerabilities उत्पन्न हो सकती हैं जिनका malicious actors फायदा उठा सकते हैं, उदाहरण के लिए data poisoning या training data manipulation के माध्यम से (Barba et al., 2024)।

संगठनात्मक स्तर पर कर्मचारियों द्वारा GenAI का गलत उपयोग भी महत्वपूर्ण जोखिम है। उदाहरण के लिए Samsung मामले में confidential information को GenAI systems में डालने से proprietary code और internal notes का disclosure हुआ, जिससे information leakage का वास्तविक जोखिम स्पष्ट हुआ (Diro et al., 2025)। यह दिखाता है कि security केवल technological solutions पर निर्भर नहीं करती, बल्कि उचित organizational practices, usage policies और user training की भी आवश्यकता होती है।

अंत में, governance और regulation के स्तर पर भी महत्वपूर्ण समस्याएँ सामने आती हैं, क्योंकि मौजूदा regulatory models liability, copyright और data protection जैसी समस्याओं को पर्याप्त रूप से address नहीं कर पा रहे हैं (Taeihagh, 2025)। Models की कम transparency, जिन्हें अक्सर “black box” माना जाता है, automated decision-making processes में accountability और control सुनिश्चित करने की क्षमता को भी सीमित करती है (Abumalloh et al., 2024)। इसके साथ technological power के कुछ global players के हाथों में concentrated होने का जोखिम भी जुड़ा है, जिसके security, competition और data sovereignty पर महत्वपूर्ण प्रभाव हो सकते हैं (Srivastava et al., 2025)।

व्यावहारिक दिशानिर्देश

GenAI से जुड़े अवसरों और जोखिमों को एक साथ देखने पर स्पष्ट होता है कि औद्योगिक संदर्भों में इसका adoption conscious और progressive integration के सिद्धांत पर आधारित होना चाहिए। Managers के लिए मुख्य प्रश्न यह नहीं है कि इन technologies को अपनाया जाए या नहीं, बल्कि यह है कि इन्हें रणनीतिक रूप से कैसे अपनाया जाए, ताकि operational benefits और risk implications के बीच संतुलन रखा जा सके। Research बताती है कि GenAI efficiency, cost reduction और advanced analytical capabilities में महत्वपूर्ण लाभ दे सकती है, लेकिन ये लाभ तभी पूरी तरह प्राप्त होते हैं जब उचित organizational और governance capabilities मौजूद हों।

इस दृष्टि से पहला operational guideline यह है कि केवल imitation या competitive pressure से प्रेरित adoption से बचा जाए। GenAI adoption से पहले structured trade-off analysis होना चाहिए, जिसमें expected economic returns के साथ security, data management, regulatory compliance और technological dependence से जुड़े hidden costs भी शामिल हों (Fischer, 2024)। Digital transformation processes में resources और skills का लगातार पुनः आवंटन आवश्यक है; यदि संगठन में यह क्षमता नहीं है, तो technology adoption value के बजाय inefficiencies या vulnerabilities पैदा कर सकता है (Vial, 2019)। इसके साथ GenAI management में systemic perspective अपनाना आवश्यक है। Implementation से संबंधित निर्णयों में employees, customers और partners जैसे stakeholders की सुरक्षा शामिल होनी चाहिए। इसका अर्थ “security-by-design” और “privacy-by-design” practices अपनाना और GenAI के उपयोग पर स्पष्ट organizational policies बनाना है, ताकि sensitive data की अनजाने में sharing जैसे risky behaviours को रोका जा सके (Abdel-Basset et al., 2023)।

इसके अतिरिक्त, ऐसे वातावरण में जहाँ technological power कुछ बड़े global technology players के पास केंद्रित है, managers को open-source solutions या hybrid models अपनाने की संभावना का सावधानीपूर्वक मूल्यांकन करना चाहिए, ताकि data पर अधिक control, transparency और flexibility मिल सके। Open ecosystems technological lock-in risk को कम कर सकते हैं और internal capabilities के विकास को बढ़ावा दे सकते हैं, साथ ही innovation से उत्पन्न value के अधिक संतुलित वितरण में योगदान दे सकते हैं (Bagdasarian, 2020)।

GenAI की शुरुआत professional requirements को भी गहराई से बदलती है, जिससे systematic training और continuous upskilling आवश्यक हो जाते हैं। Skill gap का जोखिम वास्तविक है और यह organizational तथा social inequality के नए रूप पैदा कर सकता है। इसलिए training में निवेश human capital को मजबूत करने और technologies के effective तथा responsible use को सुनिश्चित करने का strategic lever बन जाता है (Mahmoud et al., 2025)।

अंत में, transformative technologies को अपनाने की गति पर भी विचार करना आवश्यक है। Competitive pressure GenAI के rapid implementation की ओर धकेलता है, लेकिन research बताती है कि uncontrolled acceleration “destructive competitiveness” पैदा कर सकती है, जिसमें innovation के systemic risks उसके benefits से अधिक हो जाते हैं (Mäkitie et al., 2023)। इसके अतिरिक्त, पर्याप्त regulatory और governance mechanisms की अनुपस्थिति companies के बीच disparities बढ़ा सकती है, civil society पर असर डाल सकती है और digital systems में trust को कमजोर कर सकती है (Taeihagh, 2025)।

निष्कर्ष

Synthetic data generation, federated learning और distributed technologies के integration जैसे अपेक्षाकृत कम खोजे गए लेकिन रणनीतिक क्षेत्रों में GenAI की transformative potential data protection और management के नए models को सक्षम बनाती है। फिर भी यही evolution एक structural paradox को उजागर करती है: वही technologies जो defensive capabilities को मजबूत करती हैं, risk surfaces को भी एक साथ विस्तृत और अधिक जटिल बनाती हैं। Attacks को simulate करने, realistic data generate करने या complex processes को automate करने की क्षमता system resilience को बेहतर बनाती है, लेकिन malicious actors को भी नए अवसर देती है, जिससे threat landscape अधिक dynamic और कठिन हो जाता है।

इस परिदृश्य में तथाकथित responsible AI पर बढ़ता ध्यान एक महत्वपूर्ण लेकिन पर्याप्त नहीं कदम है। Ethical models और governance frameworks केवल formal या declarative बनकर रह सकते हैं यदि उनके साथ organizational practices में वास्तविक परिवर्तन न हो। GenAI ethics को guidelines के एक set तक सीमित नहीं किया जा सकता; इसे decision-making processes, individual behaviours और corporate culture में integrate करना आवश्यक है। ऐसा न होने पर responsibility superficial compliance में बदल सकती है, जो technology के वास्तविक उपयोग पर प्रभाव डालने में असमर्थ हो।

अंततः, GenAI वर्तमान digital transformation की सबसे disruptive और pervasive technologies में से एक है। इसी कारण इसे existing governance और security systems की structural weaknesses को प्रश्नों के घेरे में लाने और सुधारने के अवसर के रूप में देखा जाना चाहिए। Risks को mitigate करना संभव है, लेकिन इसके लिए सबसे पहले vulnerabilities को स्पष्ट रूप से स्वीकार करना और उस समझ को concrete actions में बदलने की इच्छा आवश्यक है।