作者信息

成鑫，贝恩公司全球合伙人，大中华区高科技业务主席

贺赫，贝恩公司全球副合伙人

梁莹莹，贝恩公司董事经理

内容提要

•企业要想大范围推广AI解决方案，就必须重塑技术部门以促成转型变革。

•秉承“AI无处不在”这一理念，重构技术堆栈，是打好AI转型的重要基础。

•此外，企业还需升级现有工作方式以充分发挥AI解决方案的全潜力，这就要求企业将软件开发的严谨态度沿用到模型采用上。

贝恩公司全球合伙人、大中华区高科技业务主席成鑫表示：“人工智能（AI）正加速从试点走向企业级部署，生成式AI的突破推动了组织在技术架构、运营流程和人才能力上的系统性变革。对企业而言，真正释放AI潜力的关键，在于不再依赖零散探索，而是重塑技术部门，以实现AI解决方案的大规模落地。

CIO和技术高管的角色也在重塑之中——他们不仅要构建稳定可扩展的AI系统，还需率先在本部门实现提效，带动全组织的生成式AI应用推广。

在中国，企业在AI智能体上的应用尚处于探索阶段，主要集中于场景试点和能力建设；在商业化方面，则普遍倾向以业务成果为导向的合作模式，推动技术提供方围绕“价值识别—验证—落地扩展”构建务实路径。

本文将结合贝恩的实践经验，深入剖析企业在AI时代所需重点推进的五项核心举措，助力构建具备持续竞争力的技术能力体系。“

随着生成式AI技术快速崛起，如何做好准备迎接AI变革成为CIO们的核心课题。

如今，企业已不再停留在AI技术的试验阶段（概念验证和最小可行性产品），而是更进一步，开始在组织上下推广生成式AI应用。在这一过程中，CIO们需要负责开发和维护生产级AI解决方案，同时高效推动上述方案的大范围落地。中国企业在AI智能体（Agent）应用方面整体仍处于探索阶段，主要聚焦于场景试点和能力建设，距离规模化部署仍有发展空间。在商业化路径上，中国企业普遍倾向以业务成果为导向的合作模式，推动技术厂商围绕“价值识别—验证—落地扩展”建立更具业务导向的交付机制。与此同时，CIO们还要利用生成式AI工具来提高自身部门的工作效率，以便向组织内其他部门推广这些工具。

这意味着要从根本上重塑技术部门，涉及架构、运营模式、人才和预算制定等各维度：

重构技术堆栈，秉承“AI无处不在”这一理念，实现机器学习（ML）与生成式AI无缝整合；

升级工作方式，将AI解决方案开发纳入到产品管理、软件开发、运营和支持等核心流程中；

推动工程团队技能提升，完成对AI系统的集成和测试并推广生产级应用，同时利用AI工具提高工程效率；

重新制定技术支出计划，覆盖AI项目投资和基础设施运行成本，在软件开发和服务管理等领域利用AI工具实现效率提升；

评估风险管理和治理机制，旨在成功部署和升级AI模型。

以上五项行动均旨在重塑技术部门，其中前两项（重构技术堆栈和升级工作方式）的优先级最高，有利于打好扎实基础。

重构技术堆栈

生成式AI会影响企业系统的方方面面。

如果运营系统中包含大量非结构化数据，那就需要着重开展架构重构工作，因为生成式AI能够帮助企业充分挖掘数据源的潜在价值。贝恩经验表明，生成式AI在运营系统中的最常见用例包括内容创作、知识管理、报告撰写和文档管理等。CIO们和其他IT采购决策者应根据潜在竞争优势和相关成本和能力要求，决定是否通过自建或外购来获取生成式AI解决方案。因为目前市场上还没有现成的商业解决方案，不少企业正基于基础模型来开发或定制AI方案。随着现有软件即服务（SaaS）解决方案与生成式AI进一步集成，直接外购的可行性会变得越来越高，因而更受追捧。

集成、工作流和统筹系统需要与AI模型无缝协作，以实现复杂度更高的自动化工作流。此外，生成式AI有利于加快企业架构的现代化转型，如API集成和云优先基础设施，从而更有效地部署生成式AI解决方案。随着时间的推移，AI技术日趋成熟，工作流和统筹系统有望部分或完全交由可半自主行动的代理型AI来完成。

数据分析和ML系统需要涵盖更多非结构化的数据资产，以及AI即服务（AIaaS）平台和机器学习运营（MLOps），以实现通用组件的重复利用和新模型的高效部署。为此，企业需要加强数据平台能力，以便纳入更多非结构化数据集（遵循与结构化数据集相同的处理标准），同时共享数据目录、控制数据版本以及在数据产品团队的支持下梳理数据脉络。为了能够在不同用例中使用经批准的模型和通用组件（如向量索引或检索增强生成），需要为各用例创建一个综合性的AIaaS平台，而非单点式的解决方案。

升级工作方式

随着生成式AI模型用例在关键系统中的部署场景和复杂度日益增加（如菊花链AI用例），对企业在团队协作、质量控制、可靠性和可扩展性等方面的表现提出了更高的要求。而在部署AI模型的过程中，企业要像软件编程时那样拿出严谨的态度，采用MLOps流程，并利用DevOps对模型进行全生命周期管理。

此外，企业应基于AIaaS平台建立AI联合开发模型，区分AI服务的开发团队和使用团队，同时明确联合贡献流程以及如何共享数据集和模型。

考虑到生成式AI的发展速度之快，企业还必须创建AI优先软件开发流程，以便快速迭代新的解决方案和架构。对于敏捷团队而言，需要综合考虑应用程序、AI模型和数据团队间的相互依赖关系。

在软件开发和服务管理流程中，同样要更多地运用生成式AI工具，包括编程助手、知识管理和错误检测等，并在部署工具、定期监控影响和管理风险等方面明确指导原则。

鉴于生成式AI技术的发展日新月异，企业应多措并举、果敢行动，保证模型调整的灵活性。为此，CIO们需重点关注如何引导技术部门做好准备，迎接AI时代的巨大变革。

报告作者特别鸣谢贝恩公司大中华区知识产品中心的刘泽萌、陈旭菲，翻译组的邹怿帆、市场部的赵雯、以及创意设计部的顾丽娜为本报告做出的贡献。