Τεχνητή Νοημοσύνη στην επιχείρηση: δημιουργία αξίας χωρίς έκθεση της εταιρείας σε κινδύνους

Άρθρο των Giuliana Barba και Marianna Lezzi, αμφότερες PhD του Università del Salento.

Η Παραγωγική Τεχνητή Νοημοσύνη (GenAI) αποτελεί ένα σύνολο προηγμένων μοντέλων Τεχνητής Νοημοσύνης (AI), εκπαιδευμένων σε τεράστιες ποσότητες δεδομένων και ικανών να δημιουργούν νέο περιεχόμενο, όπως κείμενα, εικόνες και κώδικα. Για παράδειγμα, τα Large Language Models (LLMs) είναι μοντέλα GenAI ικανά να κατανοούν και να παράγουν φυσική γλώσσα με υψηλό βαθμό συνοχής και προσαρμογής στο εκάστοτε πλαίσιο (Barba et al., 2025). Άλλα παραδείγματα μοντέλων GenAI είναι τα Generative Adversarial Networks (GANs), τα οποία βασίζονται σε έναν ανταγωνιστικό μηχανισμό μεταξύ δύο νευρωνικών δικτύων — ενός generator και ενός discriminator — και επιτρέπουν την παραγωγή εξαιρετικά ρεαλιστικών συνθετικών δεδομένων (Ayyaz & Malik, 2024). Παρότι διαφέρουν ως προς τη δομή και τον σκοπό τους, τα μοντέλα αυτά μοιράζονται την ικανότητα να μαθαίνουν σύνθετες αναπαραστάσεις δεδομένων και να παράγουν εύλογα outputs.

Η υιοθέτηση της GenAI σε βιομηχανικά περιβάλλοντα αποτελεί δομικό μετασχηματισμό για τα συστήματα διαχείρισης της ιδιωτικότητας και της ασφάλειας πληροφοριών, επιτρέποντας αυτόματο εντοπισμό ανωμαλιών, παραγωγή συνθετικών δεδομένων και προσομοίωση σεναρίων επίθεσης. Υπό αυτή την έννοια, η GenAI αποτελεί μια κοινωνικοτεχνική τεχνολογία ικανή να επαναπροσδιορίσει ταυτόχρονα τις αμυντικές δυνατότητες και τις επιφάνειες κινδύνου, δηλαδή αφενός το σύνολο των λειτουργιών που ενισχύουν την πρόληψη, τον εντοπισμό και την απόκριση σε απειλές και αφετέρου τη διεύρυνση των σημείων ευπάθειας — τεχνικών και κοινωνικο-οργανωτικών — που προκύπτουν από την ενσωμάτωσή της στα πληροφοριακά συστήματα και στις διαδικασίες λήψης αποφάσεων (Storey et al., 2025).

Ωστόσο, η GenAI παρουσιάζει και σημαντικούς κινδύνους, ιδίως σε κρίσιμους βιομηχανικούς κλάδους όπως η υγεία και η άμυνα (Nyoto & Devega, 2024). Για παράδειγμα, τα μοντέλα GenAI μπορούν να χρησιμοποιηθούν για την ενίσχυση επιθέσεων social engineering, όπως spear phishing και deepfake, θέτοντας σε κίνδυνο τη φήμη και τη λειτουργική συνέχεια των οργανισμών και διευκολύνοντας ευρύτερες επιθέσεις, όπως η κλοπή πληροφοριών. Προκύπτουν επίσης σημαντικά ζητήματα data governance. Εμπειρικά στοιχεία δείχνουν ότι οι ανεξέλεγκτες πρακτικές χρήσης αυξάνουν τον κίνδυνο (Diro et al., 2025): το 62% των εργαζομένων εισάγει ευαίσθητες πληροφορίες σε συστήματα GenAI, το 48% κοινοποιεί μη δημόσια δεδομένα και το 45% αποκαλύπτει δεδομένα που αφορούν εργαζομένους, με σημαντικές συνέπειες όπως η έκθεση proprietary code και εμπιστευτικών σημειώσεων.

Ευκαιρίες της GenAI

Η βιβλιογραφία αναδεικνύει τη σημαντική συμβολή της GenAI στην ενίσχυση των μηχανισμών προστασίας. Ειδικότερα, γενετικά μοντέλα όπως τα LLMs μπορούν να χρησιμοποιηθούν για αυτόματο εντοπισμό ανωμαλιών, επιτρέποντας την αναγνώριση ύποπτων συμπεριφορών σε σύνθετα συστήματα (Ferrag et al., 2024). Αντίστοιχα, μοντέλα όπως τα GANs μπορούν να μοντελοποιούν δυναμικά φυσιολογικά και μη φυσιολογικά patterns, βελτιώνοντας την αποτελεσματικότητα των intrusion-detection systems σε βιομηχανικά cyber-physical περιβάλλοντα (Amato et al., 2024). Αυτό είναι ιδιαίτερα σημαντικό στα Industrial Internet of Things (IIoT), όπου η ασφάλεια απαιτεί δυνατότητες ανάλυσης σε πραγματικό χρόνο και σε μεγάλη κλίμακα.

Κεντρική συμβολή της GenAI στην προστασία της ιδιωτικότητας αποτελεί η παραγωγή συνθετικών δεδομένων. Το παράδειγμα “privacy-by-synthesis” επιτρέπει τη δημιουργία τεχνητών datasets που διατηρούν τις στατιστικές ιδιότητες των πραγματικών δεδομένων χωρίς να εκθέτουν ευαίσθητες πληροφορίες, υπερβαίνοντας κανονιστικούς και λειτουργικούς περιορισμούς που συνδέονται με την κοινή χρήση δεδομένων και ενισχύοντας τη συνεργασία μεταξύ βιομηχανικών φορέων (Partovian et al., 2024). Επιπλέον, η ενσωμάτωση με federated learning — μια προσέγγιση κατανεμημένης μάθησης κατά την οποία τα μοντέλα εκπαιδεύονται τοπικά στα δεδομένα των επιμέρους φορέων χωρίς να χρειάζεται κεντρική κοινοποίησή τους — επιτρέπει στα δεδομένα να παραμένουν στις αρχικές πηγές τους, μειώνοντας περαιτέρω τους κινδύνους παραβίασης και βελτιώνοντας τη συμμόρφωση με τη νομοθεσία προστασίας δεδομένων (Hoefler et al., 2024).

Σημαντική είναι επίσης η ενσωμάτωση της GenAI με τεχνολογίες blockchain, η οποία ενισχύει την ασφάλεια και την ακεραιότητα των βιομηχανικών πληροφοριών μέσω αμετάβλητων κατανεμημένων μητρώων και μηχανισμών ιχνηλασιμότητας. Η ενσωμάτωση αυτή ευνοεί αποκεντρωμένα μοντέλα governance, όπου η παραγωγή συνθετικών δεδομένων και οι διαδικασίες ανάλυσης μπορούν να επαληθεύονται χωρίς να τίθεται σε κίνδυνο η ιδιωτικότητα (Ghani et al., 2024). Χαρακτηριστικό παράδειγμα αποτελεί ο κλάδος υγείας, όπου η GenAI χρησιμοποιείται για τη δημιουργία συνθετικών κλινικών δεδομένων για έρευνα και εκπαίδευση διαγνωστικών μοντέλων, αποφεύγοντας την άμεση έκθεση ευαίσθητων δεδομένων ασθενών και διατηρώντας υψηλά πρότυπα ασφάλειας και κανονιστικής συμμόρφωσης.

Ένα ακόμη πεδίο εφαρμογής αφορά την προηγμένη προσομοίωση ρεαλιστικών σεναρίων επίθεσης, ώστε οι οργανισμοί να μπορούν να δοκιμάζουν την ανθεκτικότητα των συστημάτων τους. Για παράδειγμα, ενεργά αμυντικά συστήματα βασισμένα σε GANs, ικανά να δημιουργούν παραπλανητικά περιβάλλοντα, μπορούν να μειώσουν σημαντικά το ποσοστό επιτυχίας των επιθέσεων και να αυξήσουν τον χρόνο που απαιτείται για την παραβίαση ενός συστήματος (Qin et al., 2024). Τα αποτελέσματα αυτά δείχνουν ότι η GenAI μπορεί να υποστηρίξει μια προληπτική προσέγγιση στην ασφάλεια, ενισχύοντας το risk management και τη λειτουργική συνέχεια.

Κίνδυνοι της GenAI

Παράλληλα με τις ευκαιρίες, η βιβλιογραφία δίνει έμφαση και στους κινδύνους που εισάγει η GenAI. Ένα πρώτο πεδίο αφορά την επιθετική χρήση της. Τα γενετικά μοντέλα μπορούν να αξιοποιηθούν για εξαιρετικά προσωποποιημένες επιθέσεις spear-phishing (Yamin et al., 2021) και για αυτοματοποιημένη δημιουργία κακόβουλου κώδικα (Gupta et al., 2023). Τα deepfakes αποτελούν έναν ακόμη παράγοντα κινδύνου, καθώς επιτρέπουν τη δημιουργία εξαιρετικά ρεαλιστικού περιεχομένου που μπορεί να υπονομεύσει την εμπιστοσύνη και την ασφάλεια των πληροφοριών (Vijaya et al., 2023). Κρίσιμη είναι επίσης η ευπάθεια των συστημάτων σε τεχνικές model inversion και inference attack, μέσω των οποίων μπορεί να ανακατασκευαστούν ιδιωτικά δεδομένα από εκπαιδευμένα μοντέλα (Hu et al., 2024).

Άλλες κρίσιμες πτυχές αφορούν τη διαχείριση των δεδομένων εκπαίδευσης, τα οποία μπορεί να είναι ελλιπή, μη επικυρωμένα ή να περιέχουν bias. Τα προβλήματα αυτά μπορούν να υπονομεύσουν την αξιοπιστία των μοντέλων, να οδηγήσουν σε μεροληπτικές ή διακριτικές αποφάσεις και να εισαγάγουν ευπάθειες που μπορούν να αξιοποιηθούν από κακόβουλους παράγοντες, για παράδειγμα μέσω data poisoning ή χειραγώγησης των training data (Barba et al., 2024).

Σε οργανωτικό επίπεδο, η ακατάλληλη χρήση της GenAI από εργαζομένους αποτελεί σημαντική πηγή κινδύνου. Στην περίπτωση της Samsung, για παράδειγμα, η εισαγωγή εμπιστευτικών πληροφοριών σε συστήματα GenAI οδήγησε στη διαρροή proprietary code και εσωτερικών σημειώσεων, αναδεικνύοντας στην πράξη τον κίνδυνο information leakage (Diro et al., 2025). Αυτό δείχνει ότι η ασφάλεια δεν εξαρτάται αποκλειστικά από τεχνολογικές λύσεις, αλλά απαιτεί και κατάλληλες οργανωτικές πρακτικές, πολιτικές χρήσης και εκπαίδευση χρηστών.

Τέλος, ανακύπτουν σημαντικά ζητήματα governance και ρύθμισης, εξαιτίας της ανεπάρκειας των σημερινών κανονιστικών μοντέλων ως προς τη διαχείριση θεμάτων όπως η ευθύνη, το copyright και η προστασία δεδομένων (Taeihagh, 2025). Η περιορισμένη διαφάνεια των μοντέλων, τα οποία συχνά γίνονται αντιληπτά ως “black boxes”, περιορίζει επίσης τη δυνατότητα εξασφάλισης accountability και ελέγχου στις αυτοματοποιημένες διαδικασίες λήψης αποφάσεων (Abumalloh et al., 2024). Σε αυτό προστίθεται ο κίνδυνος συγκέντρωσης της τεχνολογικής ισχύος στα χέρια λίγων παγκόσμιων παικτών, με σημαντικές επιπτώσεις για την ασφάλεια, τον ανταγωνισμό και την κυριαρχία των δεδομένων (Srivastava et al., 2025).

Λειτουργικές κατευθύνσεις

Μια ολοκληρωμένη ανάγνωση των ευκαιριών και των κινδύνων που συνδέονται με τη GenAI υποδεικνύει ότι η υιοθέτησή της σε βιομηχανικά περιβάλλοντα θα πρέπει να καθοδηγείται από μια λογική συνειδητής και σταδιακής ενσωμάτωσης. Για τα στελέχη, το βασικό ζήτημα δεν είναι αν πρέπει να υιοθετηθούν αυτές οι τεχνολογίες, αλλά πώς να υιοθετηθούν στρατηγικά, εξισορροπώντας τα λειτουργικά οφέλη με τις επιπτώσεις κινδύνου. Η βιβλιογραφία δείχνει ότι η GenAI μπορεί να δημιουργήσει σημαντικά πλεονεκτήματα ως προς την αποτελεσματικότητα, τη μείωση κόστους και τις προηγμένες αναλυτικές δυνατότητες, αλλά τα οφέλη αυτά υλοποιούνται πλήρως μόνο όταν συνοδεύονται από επαρκείς οργανωτικές και governance δυνατότητες.

Υπό αυτή την προοπτική, μια πρώτη λειτουργική κατεύθυνση είναι η αποφυγή μιμητικών προσεγγίσεων ή αποφάσεων που καθοδηγούνται αποκλειστικά από ανταγωνιστικές πιέσεις. Η υιοθέτηση της GenAI θα πρέπει να προηγείται από μια δομημένη ανάλυση των trade-offs, η οποία λαμβάνει υπόψη τόσο τις αναμενόμενες οικονομικές αποδόσεις όσο και τα κρυφά κόστη που συνδέονται με την ασφάλεια, τη διαχείριση δεδομένων, τη ρυθμιστική συμμόρφωση και την τεχνολογική εξάρτηση (Fischer, 2024). Οι διαδικασίες ψηφιακού μετασχηματισμού απαιτούν συνεχή ανακατανομή πόρων και δεξιοτήτων· χωρίς αυτή την ικανότητα, η τεχνολογική υιοθέτηση κινδυνεύει να δημιουργήσει αναποτελεσματικότητα ή ευπάθειες αντί για αξία (Vial, 2019). Παράλληλα, απαιτείται μια συστημική προσέγγιση στη διαχείριση της GenAI. Οι αποφάσεις σχετικά με την εφαρμογή αυτών των τεχνολογιών πρέπει να περιλαμβάνουν την προστασία των stakeholders, όπως εργαζόμενοι, πελάτες και συνεργάτες. Αυτό συνεπάγεται την υιοθέτηση πρακτικών “security-by-design” και “privacy-by-design”, αλλά και τη διαμόρφωση σαφών οργανωτικών πολιτικών για τη χρήση της GenAI, ώστε να αποτρέπονται επικίνδυνες συμπεριφορές όπως η ακούσια κοινοποίηση ευαίσθητων δεδομένων (Abdel-Basset et al., 2023).

Επιπλέον, σε ένα περιβάλλον όπου η τεχνολογική ισχύς συγκεντρώνεται σε λίγους μεγάλους παρόχους, τα στελέχη θα πρέπει να αξιολογούν προσεκτικά τη δυνατότητα ενσωμάτωσης open-source λύσεων ή υβριδικών μοντέλων που προσφέρουν μεγαλύτερο έλεγχο στα δεδομένα, διαφάνεια και ευελιξία. Τα ανοιχτά οικοσυστήματα μπορούν να μειώσουν τον κίνδυνο technological lock-in και να ενισχύσουν την ανάπτυξη εσωτερικών δεξιοτήτων, συμβάλλοντας παράλληλα σε πιο δίκαιη κατανομή της αξίας που δημιουργείται από την καινοτομία (Bagdasarian, 2020).

Η εισαγωγή της GenAI μεταβάλλει σημαντικά και τις επαγγελματικές απαιτήσεις, καθιστώντας αναγκαία τη συστηματική εκπαίδευση και διαρκή αναβάθμιση δεξιοτήτων. Ο κίνδυνος skill gap είναι υπαρκτός και μπορεί να οδηγήσει σε νέες μορφές οργανωτικής και κοινωνικής ανισότητας. Η επένδυση στην εκπαίδευση γίνεται επομένως στρατηγικός μοχλός για την αξιοποίηση του ανθρώπινου κεφαλαίου και τη διασφάλιση αποτελεσματικής και υπεύθυνης χρήσης των τεχνολογιών (Mahmoud et al., 2025).

Τέλος, είναι απαραίτητο να εξεταστεί ο ρυθμός υιοθέτησης μετασχηματιστικών τεχνολογιών. Παρότι η ανταγωνιστική πίεση ωθεί προς ταχεία εφαρμογή της GenAI, η βιβλιογραφία υποδεικνύει ότι μια ανεξέλεγκτη επιτάχυνση μπορεί να οδηγήσει σε μορφές “καταστροφικής ανταγωνιστικότητας”, όπου η καινοτομία δημιουργεί συστημικούς κινδύνους μεγαλύτερους από τα οφέλη της (Mäkitie et al., 2023). Επιπλέον, η απουσία επαρκών μηχανισμών ρύθμισης και governance μπορεί να διευρύνει τις ανισότητες μεταξύ επιχειρήσεων, με συνέπειες για την κοινωνία και την εμπιστοσύνη στα ψηφιακά συστήματα (Taeihagh, 2025).

Συμπέρασμα

Το μετασχηματιστικό δυναμικό της GenAI σε λιγότερο διερευνημένους αλλά στρατηγικούς τομείς, όπως η παραγωγή συνθετικών δεδομένων, το federated learning και η ενσωμάτωση με κατανεμημένες τεχνολογίες, επιτρέπει νέα μοντέλα προστασίας και διαχείρισης δεδομένων. Ωστόσο, αυτή ακριβώς η εξέλιξη αναδεικνύει ένα δομικό παράδοξο: οι ίδιες τεχνολογίες που ενισχύουν τις αμυντικές δυνατότητες διευρύνουν και καθιστούν πιο σύνθετες τις επιφάνειες κινδύνου. Η δυνατότητα προσομοίωσης επιθέσεων, δημιουργίας ρεαλιστικών δεδομένων ή αυτοματοποίησης σύνθετων διαδικασιών όχι μόνο βελτιώνει την ανθεκτικότητα των συστημάτων, αλλά προσφέρει και νέες ευκαιρίες σε κακόβουλους παράγοντες, καθιστώντας το τοπίο των απειλών πιο δυναμικό και δύσκολο στη διαχείριση.

Στο πλαίσιο αυτό, η αυξανόμενη έμφαση στη λεγόμενη responsible AI αποτελεί σημαντικό αλλά όχι επαρκές βήμα. Τα ηθικά μοντέλα και τα governance frameworks κινδυνεύουν να παραμείνουν τυπικά ή διακηρυκτικά εάν δεν συνοδεύονται από ουσιαστικό μετασχηματισμό των οργανωτικών πρακτικών. Η ηθική της GenAI δεν μπορεί να περιορίζεται σε ένα σύνολο οδηγιών, αλλά πρέπει να ενσωματώνεται στις διαδικασίες λήψης αποφάσεων, στις ατομικές συμπεριφορές και στην εταιρική κουλτούρα. Χωρίς αυτή την ενσωμάτωση, υπάρχει ο κίνδυνος η υπευθυνότητα να μετατραπεί σε επιφανειακό compliance, ανίκανο να επηρεάσει την πραγματική χρήση της τεχνολογίας.

Συμπερασματικά, η GenAI αποτελεί μία από τις πιο ανατρεπτικές και διάχυτες τεχνολογίες του σημερινού ψηφιακού μετασχηματισμού. Ακριβώς γι’ αυτό θα πρέπει να αντιμετωπίζεται ως ευκαιρία για επανεξέταση και διόρθωση των δομικών αδυναμιών των υφιστάμενων συστημάτων governance και ασφάλειας. Η μείωση των κινδύνων είναι εφικτή, αλλά προϋποθέτει πρώτα ρητή αναγνώριση των ευπαθειών και την πρόθεση μετατροπής αυτής της επίγνωσης σε συγκεκριμένες παρεμβάσεις.