管理者和人工智能：谁来决定？

公司在决策过程中越来越依赖人工智能。如何挖掘技术潜力而又不失话语权？

迈克尔·施拉格是麻省理工学院斯隆管理学院数字经济倡议的研究员>大卫·基伦是编辑部主任麻省理工斯隆管理评论大创意研究项目负责人

发表于 2025 年 3 月/4 月第 2 期 – 意大利麻省理工学院斯隆管理评论。

人工智能 (AI) 代理的大规模整合改变了公司定义、设计和实施决策环境的方式。我们的研究表明，使用人工智能生成一系列复杂选择（而不是单一的“最佳”或“最佳”解决方案）的组织可以在多个行业取得卓越的成果。这些智能系统不仅改善决策，还推动组织重新设计决策权、问责框架和决策者之间的权力动态。

基于行为经济学选择架构原则，我们的智能选择架构框架捕捉了这些日益复杂的系统如何重塑企业决策²（方框1）。通过结合生成和预测人工智能功能来创建、完善、优先排序和呈现选项，ICA 超越了传统的推荐引擎。作为人工智能代理，ICA 可以阐明和解释权衡，揭示隐藏的机会，并从结果中学习以完善未来的选择。 ICA 标志着从使用算法（主要用于任务自动化）到使用人工智能作为卓越决策环境的架构师的决定性转变。

考虑一家大型零售公司，其人力资源部门采用人工智能来识别销售和推销方面的新兴人才——这是一项战略要务。虽然人工智能系统被证明擅长在组织中意想不到的角落识别高潜力候选人，但很快就会发现，如果没有新的决策权框架来管理发展、调动和晋升决策，这些杰出员工将仍然被低估。成功需要实施一个协作的、数据驱动的决策架构，将人才发展选项与管理激励、组织优先事项和具体成果结合起来。这个教训很明确：要释放内部人才的价值潜力，你需要重新分配决策权。

随着人工智能能力的发展，ICA 将超越简单的决策支持工具，成为人类决策者的复杂增强系统。他们将创建强大的新框架，使人类判断和人工智能协同工作，以增加商业价值创造（研究）。

方框1 – 智能选择架构（ICA）智能选择架构是动态系统，它结合了生成性和预测性人工智能功能，为决策者创建、完善、优先考虑和呈现选择。他们积极从结果中学习、寻求信息并修改决策者可用的选项。

研究2024-2025 年战略衡量系列中的第二篇文章是与塔塔咨询服务公司合作进行的，探讨了领先组织如何整合预测性和生成式人工智能，以开发并向人类决策者提供更好的选择。基于对六大行业集团高管的采访，我们的研究揭示了智能选择架构的出现——这是一种人工智能系统主动参与构建和塑造战略决策的新范式。这对组织绩效、决策权和战略敏捷性的影响是重大的，特别是当公司面临日益复杂的情况和压缩的决策周期时。

决策权2.0

已故哈佛商学院教授迈克尔·C·詹森（Michael C. Jensen）投入了数十年的研究来确定决策权的分配如何影响公司绩效以及公司可以采取哪些措施来最有效地分配决策权。詹森认为，决策权的分配是“一项极其困难且有争议的管理任务”，并警告决策过程的过度集中和过度民主化的潜在危险。

随着复合人工智能系统（将预测性人工智能和生成式人工智能相结合的系统）学习成为更加复杂的选择架构师，公司的重点从执行决策转向设计决策。管理者要对员工所处的决策环境负责，包括何时应采取人工智能生成的建议以及何时可以忽略这些建议。生成的智能选择集对于高管和经理的决策应该有多大的影响力或约束力？例如，考虑一个发现新市场模式的交易算法。它是否应该等待人类验证后再采取行动？ ICA 代理管理供应链运营并确定更高效的物流策略怎么样：实施之前需要哪些权限？在什么条件下，组织应该鼓励人类在服从和遵守方面的主动性？这些都是领导者需要考虑的问题。

ICA 代理必须反映并尊重组织的价值观和愿望。在决策权2.0时代，公司必须确定谁有权力和责任来设计、实施和治理人类判断和ICA能力交叉的选择环境。该机构对决策架构的直接结果和长期有效性负有明确的责任。这种人工智能驱动的重新定义从一系列业务规则和实践中提升了决策权，这些规则和实践涉及谁可以做出具体决策、他们可以决定什么，以及战略决策如何塑造组织如何利用人类判断和人工智能的综合力量。

事实上，ICA智能体并不是简单地提供决策支持，而是创造决策环境，在其中机器智能和人类判断的交互中产生最佳选择。想想为飞行员提供建议的商业航空飞行管理系统：它们不仅处理导航数据，还存储飞行路径数据并适应不同的路线、天气条件和飞行员偏好，同时在严格的安全参数范围内运行。同样，ICA 企业代理不断学习，在明确的运营、法律和监管范围内运作。

这直接解决了人们普遍担心的问题，即日益智能和强大的人工智能系统将使人类的判断变得边缘化和/或无关紧要。事实上，事实恰恰相反。当 ICA 代理承担数据分析、模式识别和优化的重任时，他们可以将人类同行和协作者解放出来，专注于更高阶的挑战。

Liberty Mutual 实际上创建了一个 ICA 代理来帮助培训新的理赔员，根据 2 万篇公司知识为他们提供更加个性化的培训。该 Ica 代理可帮助理赔员更有效地处理传入的客户电话，以快速解决索赔问题。 Ica 代理是 AI Gen 在整个公司的实施之一。此外，在全公司范围内实施 OpenAI ChatGpt 内部实例 LibertyGpt 一年后，Liberty Mutual 发现内部员工的生产力得到了提高和维持。该公司全球首席信息官 Monica Caldas 表示，与之前的结算工作量相比，每人节省了超过 200,000 个小时。

对于 ICA，重要的业务决策不仅取决于市场、产品、文化或战略，还取决于智能决策环境的性质和目的。一个新的焦点正在出现在元决策权上：生成选择的系统的设计和治理。新的元决策势在必行，需要人类领导团队和智能算法共同确定人类领导者和负责这些权利的尖端算法如何有效地分配围绕决策权的决策权。讽刺的是，寻求人工智能价值最大化的领导者别无选择，只能履行这些元决策义务。

机构人工智能企业的巨变

我们看到正在发生三种结构性转变，这将要求领导者主动解决机构人工智能企业中决策权、权力和决策实践的分配问题。

建筑师明智选择的能量流。随着ICA在整个企业中的普及，决策权的焦点将从决策者转向设计更好决策环境的人。法国跨国制药公司赛诺菲就是这种情况，ICA 系统地帮助改善决策过程。该公司的研究和创新团队采用数据驱动策略来优化项目投资并克服以下挑战：沉没成本偏见是行业中常见的陷阱，可能导致业绩不佳的企业难以转型。赛诺菲的人工智能系统现在使领导者能够自信地根据数据驱动的见解重新调整资源。这种决策转变证明了精心设计的 ICA 能够增强人类判断力并确保决策与业务目标保持一致。正如赛诺菲首席数字官 Emmanuel Frenehard 所言：“我们使用 ICA 首先是为了系统地减少人类认知偏差。”确保投资组合决策由数据驱动，而不是由情感依恋或过去的支出驱动，这是赛诺菲 ICA 的一项关键功能。

网络效应放大并增强决策智能。ICA 产生网络效应，使每个决策都能提高系统的预测准确性和未来决策的质量。支付技术跨国公司万事达卡的 ICA，例如那些主动识别交易模式以防止欺诈并解决不必要的卡拒绝问题的 ICA，就是这种良性循环的例证。通过系统的每笔交易都丰富了 ICA 的有效性，从而实现更好的异常检测和更好的客户体验。领导者设计决策环境是为了在工作中不断完善自己，从而增强网络效应。这确保了 ICA 的学习能力使整个组织受益（更不用说商户、发卡机构和持卡人）。首席数据和人工智能官 Greg Ulrich 解释道：“通过更多数据，我们可以为我们的服务增加更多价值。通过更多服务，我们可以为我们的支付生态系统增加价值。”

实时优化重新定义权限和监督。算法交易和程序化广告说明了 ICA 代理如何自主、动态地完善策略，以比人类管理者更快的速度实现结果最大化。在这些情况下，将决策权移交给这些代理人会增加取得积极成果的可能性。在收入预测中也观察到这种现象。在一家制药公司中，ICA 代理用于生成收入预测替代方案。随着模型的发展，财务经理和 ICA 代理之间的合作产生了更准确的预测。换句话说，ICA代理已经从决策支持工具转变为协作者。最终，Ica 代理在无需人工干预的情况下变得更加精确。在这种背景下，准自治代理获得了定义收入预测并根据新信息的出现动态修改收入预测的权力。

这三个变化需要对公司权力结构进行根本性的重新思考。人工智能时代的成功属于人类高管，他们愿意协作构建和协调智能选择环境，以确保人类判断力充分参与创造价值。负责组织设计的领导者面临的问题将从“谁来决定？”转变。到“我们如何设计更好的决策方法？”。

预见权力冲突

实际上，ICA 不仅限于为人类决策提供信息的工具，而且是可以学习自行开发决策能力的实体。这些能力代表了一项基本的治理挑战：随着 ICA 的学习和改进，它们从简单的决策支持工具转变为能力越来越强的决策者，可以匹配甚至超越人类专家的表现。当 ICA 做出有效决策的能力超过其正式授予的决策权时，就会产生内在的冲突：学习权威困境。为了解决这个问题并充分利用这些智能系统的潜力，组织需要动态治理框架，系统地评估 ICA 的能力，并在必要时有意扩大其权力，同时保持充分的监督和控制。随着 ICA 的发展超越其最初的决策限制，平衡增强能力的好处与维持负责任的治理将成为大规模部署人工智能代理的领导当务之急（框 2）。

专栏2——人工智能时代的决策权组织必须围绕三个基本原则重建决策权框架：1.架构权威：优势将属于那些知道如何最好地设计所选环境的人。2.网络智能：决策权将延伸至所有人类-AI网络。3.动态问责制：测量系统将评估选择和结果。

元责任的出现

随着人工智能在为人类设计选择以及与人类一起设计选择方面变得更加复杂，最关键的决策权将集中在元决策上，或者选择如何设计做出选择的系统。因此，将创建一个新的决策权层次结构，其中塑造决策环境的权力将取代做出个人决策的权力。领导者不仅要对他们做出的决策负责，还要对他们创建的 ICA 的质量负责。

领导者可以采取的朝着这个新方向前进的行动包括：

预测人工智能驱动的选择系统的治理：公司必须为其 ICA 建立道德、战略和运营边界。提升认知贡献：这需要从战术性决策转向监督智能决策环境的设计。确保一致性：领导者必须创建系统和流程，以确保人工智能生成的决策能够推进组织的价值观和目标。建立新的衡量标准：这些衡量标准应衡量选择的质量和多样性、决策环境的有效性、学习和适应率以及网络智能的优化。

未来不属于那些做出最佳决策的人，而是属于那些创造最佳决策环境的人。

我们要感谢以下接受本文采访的人员：>莫妮卡·卡尔达斯 (Monica Caldas)，Liberty Mutual Insurance 全球首席信息官Emmanuel Frenehard，赛诺菲数字化主管Greg Ulrich，万事达卡数据和人工智能主管

注意：

1。在本研究中，决策环境是动态环境，人们和算法在其中考虑复杂信息、竞争优先级和约束来做出相应的决策。

2。 M. Schrage 和 D. Kiron，“明智的选择重塑决策和生产力”，《麻省理工学院斯隆管理评论》，2024 年 10 月 29 日，https://sloanreview.mit.edu。

显示所有参考文献。

3。 Jensen, M.“决策权：谁开绿灯？”。哈佛商学院工作知识，2005 年 8 月 8 日，www.library.hbs.edu。