Manager e AI: chi decide?

Le aziende si affidano sempre di più all’Intelligenza Artificiale nei processi decisionali.
Come sfruttare le potenzialità della tecnologia senza perdere l'ultima parola?

Michael Schrage è ricercatore presso l’Initiative on the Digital Economy della MIT Sloan School of Management
David Kiron è Direttore Editoriale della MIT Sloan Management Review e Responsabile del programma di ricerca Big Ideas

Pubblicato sul numero 2, marzo/aprile 2025 - Mit Sloan Management Review Italia.

L’incorporazione di agenti di Intelligenza Artificiale (AI) su scala trasforma il modo in cui le aziende definiscono, progettano e implementano gli ambienti decisionali¹. La nostra ricerca dimostra che le organizzazioni che utilizzano l’AI per generare serie di scelte sofisticate – piuttosto che soluzioni singole, ‘migliori’ o ‘ottimali’ – ottengono risultati superiori in diversi settori. Questi sistemi intelligenti non si limitano a migliorare il processo decisionale, ma spingono le organizzazioni a ridisegnare i diritti decisionali, i quadri di responsabilità e le dinamiche di potere tra i decisori.

Basandosi sui princìpi dell’architettura della scelta dell’economia comportamentale, il nostro quadro di riferimento per l’architettura della scelta intelligente (dall’inglese Intelligence choice architecture, Ica) coglie il modo in cui questi sistemi sempre più sofisticati rimodellano il processo decisionale aziendale² (Box 1). Combinando capacità di AI Generativa e predittiva per creare, affinare, dare priorità e presentare le opzioni, le Ica trascendono i motori di raccomandazione convenzionali. Come agenti di AI, le Ica possono articolare e spiegare i compromessi, far emergere le opportunità nascoste e imparare dai risultati per affinare le scelte future. Le Ica segnano un passaggio decisivo dall’utilizzo degli algoritmi, principalmente per l’automazione dei compiti, all’impiego dell’AI come architetto di ambienti decisionali superiori.

Si consideri un’importante azienda di vendita al dettaglio il cui reparto risorse umane impiega l’AI per identificare i talenti emergenti nelle vendite e nel merchandising – un imperativo strategico. Sebbene il sistema di AI si dimostri abile nell’individuare candidati ad alto potenziale in angoli inaspettati dell’organizzazione, diventa subito chiaro che questi lavoratori eccezionali rimarranno poco valorizzati senza un nuovo quadro di diritti decisionali che regoli le decisioni di sviluppo, trasferimento e promozione. Il successo richiede l’implementazione di un’architettura decisionale collaborativa e guidata dai dati, che allinei le opzioni di sviluppo dei talenti con gli incentivi del management, le priorità organizzative e i risultati concreti. La lezione è chiara: per liberare il potenziale di valore dei talenti interni è necessario riallocare i diritti decisionali.

Con l’evoluzione delle capacità dell’AI, le Ica andranno oltre i semplici strumenti di supporto alle decisioni e diventeranno sofisticati sistemi di potenziamento per i decisori umani. Creeranno nuove e potenti strutture in cui il giudizio umano e l’AI lavoreranno insieme per aumentare la creazione di valore aziendale (La ricerca).

Box1 - Architetture di scelta intelligente (Ica)
Le architetture di scelta intelligenti sono sistemi dinamici che combinano capacità di AI generativa e predittiva per creare, affinare, dare priorità e presentare scelte per e con i decisori. Imparano attivamente dai risultati, ricercano informazioni e modificano le opzioni disponibili per i decisori.

La ricerca
Questo secondo articolo della serie sulle misurazioni strategiche 2024-2025, condotto in collaborazione con Tata Consultancy Services, esamina come le organizzazioni leader integrano l’AI predittiva e generativa per sviluppare e presentare scelte migliori ai decisori umani. Basandosi su interviste a dirigenti di sei grandi gruppi industriali, la nostra ricerca rivela l’emergere di architetture di scelta intelligenti - un nuovo paradigma in cui i sistemi di AI partecipano proattivamente alla strutturazione e alla formazione delle decisioni strategiche. Le implicazioni per le prestazioni organizzative, i diritti decisionali e l’agilità strategica sono significative, in particolare quando le aziende si trovano ad affrontare una complessità crescente e cicli decisionali compressi.

Diritti di decisione 2.0

Il defunto professore della Harvard Business School Michael C. Jensen ha dedicato decenni di ricerca a determinare come la distribuzione dei diritti decisionali influenzi le performance aziendali e cosa possano fare le aziende per allocarli nel modo più efficace. Jensen ha sostenuto che l’allocazione dei diritti decisionali è “un compito manageriale straordinariamente difficile e controverso”, mettendo in guardia dai potenziali pericoli dell’ipercentralizzazione e dell’iperdemocratizzazione del processo decisionale³.

Man mano che i sistemi di AI composti – sistemi che combinano AI predittiva e Generativa –imparano a diventare architetti di scelte più sofisticati, l’attenzione delle aziende si sposta dall’esecuzione delle decisioni alla progettazione delle stesse. I dirigenti diventano responsabili degli ambienti decisionali in cui operano i membri del personale, definendo tra l’altro quando i suggerimenti generati dall’AI devono essere messi in atto e quando possono essere ignorati. Quanto dovrebbero essere potenti o vincolanti gli insiemi di scelte intelligenti generati per le decisioni dei dirigenti e dei manager? Consideriamo, per esempio, un algoritmo di trading che scopre un nuovo modello di mercato. Dovrebbe aspettare la convalida umana prima di agire? Che dire di un agente Ica che gestisce le operazioni della catena di approvvigionamento e che identifica una strategia logistica più efficiente: quali autorizzazioni sono necessarie prima di implementarla? A quali condizioni l’organizzazione dovrebbe incoraggiare l’iniziativa umana rispetto all’obbedienza e alla conformità? Queste sono domande che i leader devono considerare.

Gli agenti Ica devono riflettere e rispettare i valori e le aspirazioni di un’organizzazione. Nell’era dei diritti decisionali 2.0, le aziende devono stabilire chi ha l’autorità e la responsabilità di progettare, implementare e governare gli ambienti di scelta in cui si intersecano il giudizio umano e le capacità di Ica. Questa autorità comporta una responsabilità esplicita sia per i risultati immediati sia per l’efficacia a lungo termine delle architetture decisionali. Questa ridefinizione guidata dall’AI eleva i diritti decisionali da un insieme di regole e pratiche aziendali relative a chi può prendere decisioni specifiche, a cosa può decidere e al modo in cui le decisioni strategiche modellano il modo in cui le organizzazioni sfruttano il potere combinato del giudizio umano e dell’AI.

In effetti, gli agenti Ica non si limitano a fornire un supporto decisionale, ma creano ambienti decisionali in cui le scelte migliori emergono dall’interazione tra l’intelligenza della macchina e il giudizio umano. Si pensi ai sistemi di gestione dei voli dell’aviazione commerciale che consigliano i piloti: non si limitano a elaborare i dati di navigazione, ma conservano i dati del percorso di volo e si adattano alle diverse rotte, alle condizioni meteorologiche e alle preferenze dei piloti, il tutto operando entro rigorosi parametri di sicurezza. Allo stesso modo, gli agenti Ica aziendali imparano continuamente, operando entro chiari confini operativi, legali e normativi.

Questo affronta direttamente il timore troppo comune che sistemi di AI sempre più intelligenti e capaci rendano il giudizio umano marginale e/o irrilevante. In realtà, è vero il contrario. Quando gli agenti Ica si fanno carico del lavoro pesante dell’analisi dei dati, del riconoscimento dei modelli e dell’ottimizzazione, liberano le loro controparti e i loro collaboratori umani per concentrarsi su sfide di ordine superiore.

Liberty Mutual ha effettivamente creato un agente Ica per aiutare a formare i nuovi periti sinistri, offrendo loro una formazione più personalizzata basata su 20mila articoli di conoscenza aziendale. Questo agente Ica aiuta i periti a gestire in modo più efficiente le chiamate dei clienti in arrivo per risolvere rapidamente le richieste. L’agente Ica è una delle implementazioni di AI Gen in tutta l’azienda. Inoltre, un anno dopo l’implementazione in tutta l’azienda di LibertyGpt, l’istanza interna di ChatGpt di OpenAI, Liberty Mutual ha visto migliorare e sostenere la produttività dei dipendenti interni. Afferma Monica Caldas, Global Chief Information Officer dell’azienda, che ha risparmiato più di 200mila ore a persona rispetto ai precedenti carichi di lavoro degli insediamenti.

Con le Ica, le decisioni aziendali importanti dipendono dalla natura e dallo scopo degli ambienti decisionali intelligenti tanto quanto i mercati, i prodotti, la cultura o la strategia. Emerge una nuova attenzione ai diritti di metadecisione: la progettazione e la governance dei sistemi che generano le scelte. Un nuovo imperativo metadecisionale richiede che i team di leadership umana e gli algoritmi intelligenti si uniscano per determinare come i diritti decisionali intorno ai diritti decisionali debbano essere efficacemente allocati dai leader umani e dagli algoritmi all’avanguardia responsabili di tali diritti. Ironia della sorte, i leader che cercano di massimizzare il valore dell’AI hanno poca scelta se non quella di soddisfare questi obblighi di metadecisione.

Cambiamenti sismici nell’impresa dell’Iintelligenza Artificiale agenziale

Vediamo tre cambiamenti strutturali in atto che richiederanno ai leader di affrontare in modo proattivo l’allocazione dei diritti decisionali, il potere e le pratiche decisionali nell’impresa di AI agenziale.

Flussi di energia per architetti di scelte intelligenti.
Man mano che le Ica si diffondono nell’impresa, l’attenzione dei diritti decisionali si sposterà da coloro che prendono le decisioni a coloro che progettano ambienti decisionali migliori. È questo il caso della multinazionale farmaceutica francese Sanofi, dove le Ica contribuiscono sistematicamente a migliorare il processo decisionale. I team di ricerca e innovazione dell’azienda hanno adottato strategie basate sui dati per ottimizzare gli investimenti nei progetti e superare sfide come il sunk-cost bias, una trappola comune nel settore che può rendere difficile il passaggio da attività poco performanti. I sistemi di AI di Sanofi consentono ora ai leader di riorientare con sicurezza le risorse sulla base di intuizioni basate sui dati. Questa trasformazione del processo decisionale dimostra il potere delle Ica ben progettate di amplificare il giudizio umano e garantire che le decisioni siano allineate agli obiettivi aziendali. Come osserva Emmanuel Frenehard, Chief Digital Officer di Sanofi: “Impieghiamo l’Ica innanzitutto per ridurre sistematicamente i pregiudizi cognitivi umani”. Garantire che le decisioni di portafoglio siano guidate dai dati piuttosto che da legami emotivi o spese passate è una funzione chiave delle Ica di Sanofi.

Gli effetti di rete amplificano e potenziano l’intelligenza decisionale.
Le Ica creano effetti di rete per cui ogni decisione migliora l’accuratezza predittiva del sistema e la qualità delle decisioni future. Le Ica della multinazionale di tecnologia dei pagamenti Mastercard, come quelle che identificano in modo proattivo i modelli di transazione per prevenire le frodi e affrontare gli inutili rifiuti di carte, esemplificano questo circolo virtuoso. Ogni transazione che passa attraverso il sistema arricchisce l’efficacia delle Ica, portando a una migliore individuazione delle anomalie e a una migliore esperienza dei clienti. I leader progettano ambienti decisionali per perfezionarsi continuamente durante il lavoro, alimentando gli effetti di rete. Ciò garantisce che le capacità di apprendimento delle Ica vadano a beneficio dell’intera organizzazione (per non parlare di esercenti, emittenti di carte e titolari di carte). Spiega Greg Ulrich, Chief Data e Artificial Intelligence Officer: “Con più dati, aggiungiamo più valore ai nostri servizi. Con più servizi, aggiungiamo valore al nostro ecosistema di pagamenti”.

Le ottimizzazioni in tempo reale ridefiniscono l’autorità e la supervisione.
Il trading algoritmico e la pubblicità programmatica illustrano come gli agenti Ica possano perfezionare autonomamente e dinamicamente le tattiche per massimizzare i risultati a un ritmo superiore di quello che possono raggiungere i manager umani. In questi contesti, cedere l’autorità decisionale a questi agenti aumenta la probabilità di ottenere risultati positivi. Questo fenomeno si osserva anche nella previsione dei ricavi. In un’azienda farmaceutica, è stato utilizzato un agente Ica per generare alternative di previsione dei ricavi. Con l’evoluzione del modello, le previsioni più accurate sono state generate dalla collaborazione tra i responsabili finanziari e l’agente Ica. In altre parole, l’agente Ica si è trasformato da strumento di supporto alle decisioni a collaboratore. Alla fine, l’agente Ica è diventato ancora più preciso senza l’intervento umano. In questo contesto, l’agente quasi-autonomo ha acquisito l’autorità di definire le proiezioni dei ricavi e di modificarle dinamicamente in base all’emergere di nuove informazioni.

Questi tre cambiamenti richiedono un ripensamento fondamentale delle strutture di potere aziendali. Il successo nell’era dell’AI appartiene ai dirigenti umani che sono disposti a costruire e orchestrare in modo collaborativo ambienti di scelta intelligenti che assicurino che il giudizio umano rimanga adeguatamente impegnato nella creazione di valore. La domanda per i leader incaricati della progettazione organizzativa si sposterà da “Chi deve decidere?” a “Come possiamo progettare modi migliori per decidere?”.

Anticipare i conflitti di potere

Pragmaticamente, le Ica non si limitano a essere strumenti che informano le decisioni umane, ma sono entità che possono imparare a sviluppare da sole capacità decisionali. Queste capacità rappresentano una sfida di governance fondamentale: man mano che le Ica imparano e migliorano, si trasformano da semplici strumenti di supporto alle decisioni in decisori sempre più capaci, che possono eguagliare o addirittura superare le prestazioni umane esperte.Quando la capacità di un’Ica di prendere decisioni efficaci supera i diritti decisionali formalmente concessi, si crea un conflitto intrinseco: il dilemma apprendimento-autorità. Per risolvere questo problema e sfruttare appieno il potenziale di questi sistemi intelligenti, le organizzazioni hanno bisogno di quadri di governance dinamici che valutino sistematicamente le capacità delle Ica e ne espandano intenzionalmente l’autorità quando è giustificato, mantenendo al contempo una supervisione e controlli adeguati. Trovare un equilibrio tra i vantaggi delle capacità potenziate e il mantenimento di una governance responsabile, man mano che le Ica si evolvono al di là dei loro vincoli decisionali iniziali, diventerà un imperativo della leadership per l’implementazione degli agenti di AI su scala (Box 2).

Box 2 - I diritti decisionali nell’era dell’AI
Le organizzazioni devono ricostruire i quadri dei diritti decisionali attorno a tre principi fondamentali:
1.Autorità architettonica: Il vantaggio sarà per coloro che sapranno progettare al meglio gli ambienti di scelta.
2.Intelligenza di rete: I diritti decisionali si estenderanno a tutte le reti umano-AI.
3.Responsabilità dinamica: I sistemi di misurazione valuteranno sia le scelte che i risultati.

L’emergere della meta-responsabilità

Man mano che l’AI diventa più sofisticata nell’architettare scelte per e con gli esseri umani, i diritti decisionali più critici si concentreranno sulle metadecisioni, ovvero sulla scelta di come progettare i sistemi che compiono le scelte. Si creerà così una nuova gerarchia di diritti decisionali, in cui il potere di plasmare gli ambienti decisionali sostituirà il potere di prendere decisioni individuali. I leader stanno diventando responsabili non solo delle decisioni prese, ma anche della qualità delle Ica che creano.

Tra le azioni che i leader possono intraprendere per muoversi in questa nuova direzione vi sono:

• Anticipare la governance per i sistemi di scelta guidati dall’AI: le aziende devono stabilire dei paletti etici, strategici e operativi per le loro Ica.
• Elevare i contributi cognitivi: ciò richiede un passaggio dall’abilitazione tattica del processo decisionale alla supervisione della progettazione di ambienti decisionali intelligenti.
• Garantire l’allineamento: i leader devono creare sistemi e processi per garantire che le decisioni generate dall’AI favoriscano i valori e gli obiettivi dell’organizzazione.
• Stabilire nuove metriche: queste dovrebbero misurare la qualità e la diversità delle scelte, l’efficacia dell’ambiente decisionale, i tassi di apprendimento e di adattamento e l’ottimizzazione dell’intelligenza della rete.

Il futuro non appartiene a chi prende le decisioni migliori, ma a chi crea gli ambienti decisionali migliori.

Si ringraziano le seguenti persone, che sono state intervistate per questo articolo:
Monica Caldas, CIO globale, Liberty Mutual Insurance
Emmanuel Frenehard, responsabile digitale di Sanofi
Greg Ulrich, responsabile dei dati e dell’AI di Mastercard

NOTE:

1. Nel contesto di questa ricerca, gli ambienti decisionali sono ambienti dinamici in cui persone e algoritmi considerano informazioni complesse, priorità concorrenti e vincoli per prendere decisioni conseguenti.

2. M. Schrage e D. Kiron, “Intelligent Choices Reshape Decision-Making and Productivity”, MIT Sloan Management Review, 29 ottobre 2024, https://sloanreview.mit.edu.

Mostra tutti i riferimenti.

3. Jensen, M. “Diritti di decisione: Chi dà il via libera?”. Harvard Business School Working Knowledge, 8 agosto 2005, www.library.hbs.edu.