在我们最近一篇关于2024 年企业 AI 的六项关键预测的博文中,我们指出,虽然企业知道他们想测试哪些用例,但他们很可能不知道哪些用例能为他们的 AI 和 ML 投资带来投资回报率(ROI)。这是个问题,因为在我们今年的第一次调查中,我们发现 57% 的受访者的董事会预计未来财年 AI/ML 投资会带来两位数的收入增长,而 37% 的人预计只有个位数增长。
这就是为什么批判性优先级排序对于选择适合大规模实施和部署的用例至关重要——这不仅是为了符合组织的预算,也是为了为组织带来价值。
话虽如此,财富 1000 强企业中负责监督生成式 AI 采用的 C 级领导者中有 59% 表示,他们缺乏成功采用生成式 AI 所需的预算和资源,从而阻碍了价值创造。66% 的受访者表示,由于资金和人员不足,难以量化其 AI/ML 项目对最终利润的影响和投资回报率(ROI)。42% 的人需要更多专业的机器学习人员来确保成功。我们很难理解,在大多数受访者表示预算不足、无法量化影响且需要更多资源的情况下,如何才能实现两位数的收入增长。这是过度膨胀的预期与现实之间的巨大差距——我们在第二次调查中也发现了这一点。
如果您阅读过我们的第二次调查报告《企业采用生成式 AI 的隐藏成本、挑战和总拥有成本(TCO)》,您就会回想起在考虑用例时,期望与现实之间令人担忧的预算差距。具体而言,我们对 1,000 名财富 1000 强企业 C 级高管的调查发现,尽管其中 82% 的人正在为他们的组织考虑 4-9 个用例(终端用户数量从 501 到 5,000 人不等),但令人震惊的是,只有 20% 的受访者分配了超过 200 万美元的年度预算。这令人担忧,因为根据 ClearML 的总拥有成本(TCO)计算器,使用内部团队为 3,000 名员工训练、微调和提供模型的第一年成本约为 100 万美元(取决于数据语料库和用例),而未来通过共享计算使用可实现规模经济。
撇开预算方面的担忧不谈,我们想知道企业正在计划哪些具体的生成式 AI 用例。
谈到生成式 AI 的商业用例,大多数受访者强调了五个关键用例,其中 43% 将“战略、分析和规划(公司规划、风险管理、财务)”作为其主要用例,紧随其后的是 40% 选择“作为产品中的客户功能”作为其主要用例。
38% 的受访者选择“外部聊天机器人/自动化处理低级任务(客户支持、销售等)”作为关键用例,37% 将“内容生成(销售、营销、人力资源等)”标记为关键用例。排名前五的用例中,最后一位是“为人才(客户支持或销售代表)提供内容推荐/生成引擎”,有 32% 的 AI 领导者将其列为首要任务。
有内容生成需求的企业可以使用流行的开箱即用型单一用例应用程序(如 Jasper™ 和 Copy.ai)或现有的 LLM API(如 Cohere™ Generate)来满足这些需求。这个用例是成本最低的解决方案,因为组织只需购买现成的应用程序并按用户支付低成本订阅即可。最重要的是,组织无需与应用程序开发商分享专有数据,因此这也是一项低风险活动,从安全角度来看,易于外包。
话虽如此,当考虑大规模的企业生成式 AI 应用时,尤其是在企业内部,三个最常被要求的用例需要大量访问内部文档和组织内部数据,才能产生准确和有用的结果。这些用例包括
- 为支持内部团队提供内容推荐引擎
- 战略、公司规划和财务助理;以及
- 将生成式 AI 作为产品功能
为了保护公司数据和知识产权,这些用例的模型很可能需要在内部构建,并且很可能部署在本地,这意味着企业需要投入资金组建内部团队,以支持多个用例的多个模型。
那么,您的企业正在规划哪些生成式 AI 用例?您将支持多少用户?您是否有必要的预算? 为了帮助您更清楚地了解生成式 AI 真正的隐藏成本,我们为您提供了两个资源:
- ClearML 正在开发一个总拥有成本(TCO)计算器,以帮助公司了解在其组织内部引入和实施 LLM 的各种成本驱动因素和不可预测的费用。如果您希望收到该计算器可用时的通知,请发送电子邮件至[email protected]告知我们。
- 我们最近举办了一场专家小组讨论会,讨论了在组织内部采用生成式 AI 和 LLM 的不同方式相关的隐藏成本和意想不到的“陷阱”,这些都可能导致预期的投资回报率(ROI)和总拥有成本(TCO)无法实现——同时比较了 AI 即服务(例如自行构建或使用低代码、安全的生成式 AI 平台)的优缺点。请访问此页面观看网络研讨会。
最后,您应该知道 ClearML 提供 ClearGPT,这是一个安全、开箱即用的企业级 LLM 平台。请在此处申请演示。