Gartner:CIO选择大模型的六个标准及五种主要部署方式

CIOAge 人工智能
如何调整企业的AI战略,使大模型的能力真正为企业所用?如何选择适合行业企业的大模型?如何根据企业自身情况部署大模型?这些都是CIO关注的重要课题。

近两年,ChatGPT如燎原之势迅速席卷而来。在过去的半年里,众多企业倾心生成式AI并展开探索与应用,其所带来的影响也越来越深入。

如何调整企业的AI战略,使大模型的能力真正为企业所用?如何选择适合行业企业的大模型?如何根据企业自身情况部署大模型?这些都是CIO关注的重要课题。

生成式AI正在颠覆传统业务

生成式AI正在改变产品的研发方式、优化用户体验、提升员工的工作效率,甚至在颠覆传统业务。

制造型企业的研发人员使用Autodesk的Dreamcatcher平台,可以根据目标和约束条件直接生成CAD设计,连接3D打印机就能进行实体交付,大幅提升了研发和测试的效率。

在体育界,IBM为美国2023年高尔夫锦标赛大师赛提供生成式AI评论的数字新体验,其人工智能生成式评论解决方案在比赛过程中为20,000多个视频片段制作了详细且专业的高尔夫比赛解说,精彩的比赛片段+专业的比赛解说为用户提供了优质的体验。

Amazon的实时AI编程助手(CodeWhisperer)可以运用自然语言帮助开发团队生成代码、执行代码并进行代码优化。埃森哲的Velocity团队基于CodeWhisperer将开发工作减少了30%。

ChatGPT的问世给教育服务提供商的股价带来巨大影响,美国课外辅导在线教育公司Chegg的股价受GPT的影响足足下跌了50%。人工智能“反噬”科技行业的征兆已经出现,就业市场也将受到影响。

今年4月Gartner在针对2000多家企业的调研中发现:45%的企业看好生成式AI技术,并将增加对AI的投资。

今年年初Gartner在调研了300多家中国企业后发现:AI能力相对成熟的企业更倾向于采用“AI First”的战略,大部分中国企业侧重AI运营和AI工程化,以决策为中心,通过AI技术辅助业务,使业务运营可扩展且更有韧性。一部分AI领先企业已开始探索将AI技术用于企业业务的各个领域,甚至是核心业务场景。

生成式AI战略先行

Gartner提到了AI原生企业的概念,它指企业的核心流程如果离开AI将无法正常运转。包括自适应、生成式、原生学习在内的生成式AI正在将AI原生企业这一理想变为现实,越来越多的企业将AI战略纳入企业数字化转型的核心战略。

Gartner高级研究总监方琦(Mike Fang)强调:所有的AI战略,如果脱离了企业自身的业务,将毫无价值可言。

因此对CIO而言,规划AI战略的第一步是与业务战略对齐,而非单纯从技术角度进行创新;其次要结合整体业务模式确定AI技术的优先发力点;第三步要从投资与回报的角度明确AI能否大幅优化业务;同时还要了解企业通过AI能力能获得偏向防御型的能力,还是利用自身数据创造差异化的竞争力。

大部分中国企业进行了大量AI投入,有了比较清晰的AI战略。在生成式AI大潮兴起后,大多数企业重新规划并更新了自身的AI战略,生成式AI无疑增强了员工的工作能力。

CIO在规划AI战略时,应着重思考以下三个问题:

  • 该如何培养企业的AI战略师?
  • 该如何重新培训员工,使其在短期内熟练应用生成式AI工具?
  • 未来什么样的组织架构能让员工乐于共享,甚至更民主化?

Gartner列举了生成式AI在企业中的三类主要应用场景:

1、将算法集成到现有解决方案。在保证前期对AI的投资能继续发挥作用的基础上,将生成式Al的算法集成到现有的智能化解决方案中,解决原有方案不能识别的意图,通过能力的更新和完善提升用户体验,使产品更具竞争力。

2、改进业务或工艺瓶颈。梳理业务的端到端流程,找到流程中的瓶颈,探索如何通过生成式AI的应用工具突破现有瓶颈,从而提升整体能力。

3、重塑人与机器的关系。当整个行业的供需关系发生变化,企业需要重塑人与机器的关系,找到新的平衡点。

Gartner在调研中发现:在全球,70%的企业部署了20个以上的AI用例,企业平均部署AI用例的数量是41个,AI用例的平均使用寿命为3.5年;而在中国,86%的企业部署了5个以上的AI用例,企业平均部署的AI用例数量是24个,AI用例的平均使用寿命是2.8年。

管控生成式AI的相关风险同样重要,包括违反中国法律法规的风险、供应商的风险、数据的隐私及保密风险、侵犯知识产权的风险、“幻觉”和有偏见的答案、网络安全风险、员工应用范围的风险等等,Gartner建议CIO在运用生成式AI技术时要充分与业务团队进行风险的沟通,从而使技术能够更好地落地应用。如果法务专家能够参与AI用例的前期构思,将使AI的成熟度提升3.8倍。


在人才方面,全球超过70%的企业表示AI人才并不是难点。但是大多数中国企业表示人才或服务提供商短缺是AI技术被企业采用的最大障碍,53%的中国企业表示很难找到既擅长业务又懂AI技术的人才。对于中国企业而言,如何通过专业化的分工团队,使AI技术更易落地,是企业需要从战略角度思考的重要方向。值得注意的是,采用分布在企业内部的AI特别小组这类与业务混合的团队,与中心化的AI团队相比,前者的AI成熟度会更高。

当生成式AI能力出现后,企业需要更多跨部门的角色和技能,如需要开发人员能基于API进行处理,需要AI产品经理等角色,这些是企业未来AI人才储备需要关注的重要课题。

如何选择合适的大模型?

面对五花八门的大模型,如何选择合适的大模型是多数企业关注的话题。

Gartner建议企业在选择大模型时要关注以下几个方面:

1、基本的语言能力。如多向对话的能力,生成文本的质量,知识的范围等。

2、额外的语言能力。如哪些模型能写代码?哪些模型的逻辑和推理能力更强?是否支持多种语言?是否具备数据分析能力等。

3、提示词工程。如模型的思维链如何?(是否与提示词工程紧密结合?)是否具备情境学习的能力?是否拥有很好的操控性?(是否遵循指示?)

4、微调的难度。如果想对模型进行优化或微调,是否支持将企业的知识注入模型中?

5、非功能性因素。如推理速度、成本,是否支持本地部署等。此外,如果模型后续进行迭代优化,现有的应用是否能二次优化?据悉,2024年GPT-4.0底座模型将对外开放,如果企业的应用产品是基于GPT-3.0版本开发的,后续是否要做二次优化,是企业要考量的因素之一。

6、生态系统。当前很多厂商在做基于应用场景的AI插件,也有如Microsoft Copilot的打包软件。企业在选择模型时,还应考虑模型的生态系统是否友好,与工具/系统、插件的集成是否便捷,能否长期合作等。

企业部署生成式AI的五种方式

Gartner高级总监(研究顾问)张桐梳理了企业部署大模型的5种主要方式:

1、直接购买嵌入应用程序的生成式AI。例如GPT或Salesforce推出的XGen等开源的AI大模型。

2、直接调用生成式AI的API接口。企业的应用系统可以直接调用开源大模型的API,从而进行数据检索与提示词工程的探索。

3、企业内部知识与生成式AI模型相结合。也就是将企业的数据内容准备好,包括形成企业的知识图谱,只利用大模型的语言能力进行知识输出。

4、在生成式AI模型的基础上微调。在提示词工程的基础上,或直接在大模型的基础模型之上,将行业的领域知识和企业的数据内容给到模型,让模型理解、学习行业知识和企业知识,真正为企业所用。

5、从零开始自建模型。通过预训练、监督学习以及增强学习等方式,从0到1去打造一个专属于行业企业的模型,需要进行大量的算力投入、资金投入以及人才投入。

训练大模型的门槛很高,需要充足的预算、计算资源以及数据。此外,数据安全问题也是企业部署生成式AI必须考量的因素,自建模型的数据安全系数更高,调用API的方式存在一定的数据风险。以上5种方式由易到难且各有利弊,企业可以综合考量适合自身的应用场景、投入力度以及数据安全需求,选择适合的部署方式。

企业应用大模型的核心是将企业的内部知识与外部知识进行融合,只有内外部知识被融会贯通才能充分发挥大模型的价值。

以大模型应用中最常见的知识管理场景为例,企业需要建立与智能搜索相关的知识图谱,尝试在内部知识中将每个问题的答案找到,并将问题和答案一起发给大模型,通过大模型的自然语言能力+知识图谱的知识结构能力,实现更好的人机交互体验,从而得到准确答案。

展望未来

当前多数大模型的底座很难持续更新,以ChatGPT为例其训练数据截止于2021年9月,并不能很快更新为企业提供实时的数据支持。伴随业务的快速变化,企业需要通过混合的模式,通过知识图谱或一些规则,将企业的内部知识注入生成式AI。

Gartner预测:下一代AI技术将向自适应AI的方向演进,也就是在不断变化的复杂环境中,能够基于数据自主、实时地进行模型的更新,以多个代理人的AI模拟或AI强化学习的方式,具备更快感知环境变化的能力,输出更符合业务需求的结果。

责任编辑:姜华 来源: 企业网D1Net
相关推荐

2022-04-06 18:46:35

云战略云计算云服务

2018-03-17 09:04:35

2023-08-08 11:32:38

光互连技术光纤电缆

2019-04-22 07:37:55

人工智能AI自动化

2012-09-19 16:09:43

2010-08-30 11:28:53

DHCP工作过程

2024-01-05 14:19:54

2021-06-22 14:53:35

零信任网络安全网络攻击

2022-04-29 14:54:10

物联网应用程序设备

2023-12-27 11:31:27

2010-04-12 12:40:10

无线WiMax部署方案

2012-06-15 10:14:22

2022-08-12 11:42:03

机器身份管理网络威胁

2017-07-04 16:34:33

边缘计算方式

2023-12-07 10:11:20

模型AI

2023-08-21 14:05:08

CIO数字化转型首席信息官

2023-05-09 07:09:02

2013-04-12 11:21:52

加密数据加密

2023-07-10 15:51:03

项目经理软件性能

2011-05-03 09:20:25

微软CIO云计算部署

51CTO技术栈公众号