CIO们如何安全地在公司数据上释放GenAI的潜力?

CIOAge
自 2022 年面世以来,GenAI在许多不同的商业领域产生了变革性的影响。根据 McKinsey 的数据,GenAI 可以在各类运营功能中带来高达 2.6 万亿美元的节省机会。

自 2022 年面世以来,GenAI在许多不同的商业领域产生了变革性的影响。根据 McKinsey 的数据,GenAI 可以在各类运营功能中带来高达 2.6 万亿美元的节省机会。

然而,许多商业领导者由于安全担忧而犹豫不决。IBM 报告称,96% 的高管认为采用GenAI会增加其企业在未来三年内遭遇安全漏洞的可能性。

如果数据是新的石油,那么它只有在被精炼后才有用。GenAI 可以更快、更高标准地精炼数据。然而,数据也是一种宝贵的资源,必须加以保护,而大型语言模型已知会威胁到这种安全性。商业领导者如何在这两者之间找到平衡?

引入 GenBI,新一代商业智能

GenBI 旨在通过结合 GenAI 和商业智能(BI)来解决这一难题。GenBI 实现了自助服务 BI(SSBI)工具未能兑现的承诺,使 BI 真正对非技术用户开放。

十年前被誉为革命性的 SSBI 解决方案,旨在将数据洞察从数据科学家的专属领域中解放出来,让每个利益相关者都能使用,然而,人们通常不知道该请求哪些图表、图形或可视化,也不知道如何发现初始数据以准备其仪表板的数据。即使有了 SSBI 工具,数据科学家仍然要做大部分繁重的工作,需要数据洞察的用户仍然在等待数据到来的队列中。

相比之下,GenBI 允许用户用自然语言提出查询,更自然地探索数据,这些解决方案能够“理解”你的需求,并自动选择最佳的数据表达方式。

此外,许多 SSBI 平台只生成静态图像和简单图表。GenBI 可以生成复杂的动态可视化,用户可以操作、放大缩小或继续调查特定的数据子集。

GenBI 的安全难题

尽管如此,围绕 GenAI 的同样安全问题也存在于大多数 GenBI 解决方案中。驱动 GenAI 工具的大语言模型s 通常会存储查询或训练中使用的数据,并将其用于自身目的,如改进大语言模型。

这带来了一个严重的风险,即大语言模型可能会泄露敏感的专有商业信息。Cisco 2024 数据隐私基准研究显示,48% 的人承认曾将私人公司信息输入到 GenAI 工具中,而实际比例可能更高。超过四分之一的企业由于隐私和安全问题,至少暂时禁止使用 GenAI 工具。

同时,商业用户也担心 GenBI 解决方案在数据安全方面采取的预防措施。如果它不托管在你的基础设施上,你就不能确定其安全姿态。此外,消费者也对 GenAI 工具的隐私和安全感到担忧,因此部署它们可能会损害客户的信任。

这一问题还伴随着令人担忧的透明度缺乏,增加了对偏见、幻觉和不可靠结果的担忧。开发者正在做些什么来解决这些问题?让我们看看三种 GenBI 解决方案及其解决安全问题的方法。

Amazon Q in QuickSight

Amazon AWS 提供 Amazon Q in QuickSight 作为一种 GenAI 助手,帮助用户创建和管理数据洞察,该解决方案响应自然语言文本提示,构建仪表板和自动上下文摘要,帮助探索数据。通过 Amazon Q in QuickSight,每个用户都可以生成交互式数据故事,而无需等待 BI 专家或数据科学家更新数据和生成新仪表板。

Amazon Q 通过确保理解和遵守您建立的角色、权限和治理身份来解决安全问题。

该平台承诺不使用您的数据来改进其底层模型,也不会允许任何用户使用 Amazon Q 访问其权限凭证之外的数据。

Pyramid Analytics

Pyramid Analytics 是一个旨在赋能业务用户独立访问和探索数据的 GenBI 解决方案。用户可以使用自然语言(如语音或文本提示)对数据提出查询。

该解决方案可以将模糊的问题转化为逻辑,以生成最佳回答查询的复杂可视化、图表和仪表板。每个响应都是完全动态的,因此用户可以进一步操作以调查信息的特定方面或子集,所有这些都使用自然语言问题。

Pyramid 通过在您选择的大语言模型和您的数据之间提供保护层来保障数据隐私和业务安全。该解决方案扫描您的数据源以创建上下文感知的元数据,并将其与您的查询一起发送到大语言模型,然后,它在其安全平台内执行推荐的数据操作,因此大语言模型永远不会访问您的数据。Pyramid 可以保证大语言模型永远不会存储您的数据、泄露您的数据或将其用于未经授权的目的,因为它从未访问过您的数据。

Tableau Einstein Copilot

Einstein Copilot 是一种 GenAI 助手,使 Tableau BI 用户能够通过自然语言提示探索数据。副驾驶与利益相关者协作,帮助他们更有效地操作数据。

用户可以请求关于最佳数据可视化方式或结果解释的建议,并收到帮助他们获得所需洞察的仪表板和格式。

Einstein 和 Tableau 背后的公司 Salesforce 承诺,大语言模型不会记录或保存您的数据、您使用的提示或其生成的响应,它扫描数据源以构建上下文摘要,并将其发送到大语言模型,应用数据屏蔽以隐藏敏感的 PII。类似于 Pyramid 的解决方案,这确保了大语言模型无法访问您的专有业务数据。

GenBI 可以在无风险的情况下提供 GenAI 功能

在将 GenAI 工具应用于您的业务数据之前,有许多正当理由需要谨慎。保持强大的数据安全性,确保所有员工遵守数据隐私措施,并仔细审查可能访问您数据的每个解决方案都很重要。

然而,这三种 GenBI 解决方案证明了在不冒安全漏洞风险的情况下受益于 GenAI 是可能的。商业领导者不需要因为害怕安全事件而阻止他们释放数据的全部潜力。合适的 GenBI 解决方案可以为每个需要的人带来真正的自助 BI 洞察,指导更好的决策和改进的业务战略。

责任编辑:华轩 来源: 企业网D1Net
相关推荐

2024-03-14 11:22:54

2024-01-22 16:38:00

AI人工智能GenAI

2013-12-30 10:43:15

云计算移动数据云安全

2023-07-10 15:52:27

边缘计算GenAI

2022-10-12 15:15:56

数字孪生物联网

2018-03-21 07:08:40

2023-11-27 12:11:32

2016-05-11 14:16:20

2014-06-06 14:33:29

BYOD移动安全

2023-10-11 17:38:43

Linux磁盘数据

2022-07-04 10:11:33

云安全混合云云计算

2019-12-13 11:30:33

云计算IT安全

2021-09-14 09:00:00

私有云安全云架构

2019-06-17 08:00:55

multipassbash脚本

2023-11-02 10:48:40

CIOGenAI

2024-01-10 17:27:00

Python开发

2019-01-09 10:18:05

大数据人工智能机器学习

2014-09-22 15:14:04

2022-09-28 08:40:52

CIO工具软件

2019-03-21 10:15:57

Windows 10关闭计算机Windows

51CTO技术栈公众号