首页 / ai资讯

SaaS的“大模型焦虑”

发布时间:2024-06-13 09:36:03

大模型落地 的另一面,是 SaaS 的AI化升级。

在与大模型的双向奔赴中,SaaS 厂 商如何走出“大模型焦虑”, 找到“AI自信”?

01 “大模型焦虑”

“所有软件, 都值得用大模型重做一遍”。

2022 年底, ChatGPT 火爆出圈,也把不少 To B 从业者带入一种“大模 型焦虑”中。

两、三个月后,第一波焦虑慢慢缓解下来。 因为大家发现,当时的大语言模型,更像一个偏 C 端的“大号玩具”,加上大语言模型幻觉、 隐私安全、落地场景等制约,距离真正的 To B 生产力工具,还有点远。

随着 OpenAI 开放 API 接口,Meta、谷歌推出开源大语言模型,以及大语言模型应用开发工具 LangChain 的兴起, 大语言模型在 B 端的商业化路径,逐渐清晰起来:

首先,开源降低了大语言模型 技术应用的门槛。例如,SaaS 厂商可以在开源大语言模型的基础上,训练和微调自己的行业大模型,帮助客户解决具体业务场景中的问题;此外,LangChain 等 Agent 平台和工具,也为 SaaS 厂商的创新和业务探索提供了很多便利。

职行力创始人兼 CEO 林华荣, 一直在密切关注大语言 模型技术的进程。“开源大语言模型只是变化的起点, 真正让 To B 行业兴奋起来的,应该是 LangChain 这类可以实现 Agent 概念的框架出现。大家开始意识到:AI 已经可以被业务场景需求驾驭了。”

在林华荣看来,通过类似 LangChain 的开源框架,加上 RAG 技术(检索增强生成),大语言模型通过外挂知识库(向量数据库),很好地解决了大语言模型非要训练才可用的问题。这也让许多 SaaS 从业者非常兴奋, 至少找到了一个大语言模型落地最直接的场景:企业内部知识库的智能问答。

“大语言模型可私有化部署,企业数据可私有向量化,是大语言模型技术在 To B 场景落地的重大转折 点。”

无论 SaaS 厂商,还是企业客户,在训练大语言模型时,都比较担心数据安全和知识产权保护的问题:把自己的数据喂给大语言模型,训练结果万一被对手抄去了怎么办?

大语言模型技术,模拟的是人的神经网络方式, 不同于传统的硬盘,它的数据存储和管理都很难精确化管控。 因此,林华荣认为,通过“训练”来实现企业“私有智慧大脑”是存在一定误区的。

首先,训练大语言模型掌握了特定的知识以后,要求大语言模型要对信息做一些针对性的保密,这有点像内部员工交流时,“我告诉你个秘密,你不要告诉别人”,实际上就很难真正保密了。

其次,大语言模型的输出和人类的表述方式类似,大多数情况下并没有所谓的“标准答案”,如果缺少一些知识边界的约束,就会不可控地产生“幻觉”,也就是我们经常说的“一本正经地胡说八道”。

最重要的是,企业知识本身存在持续性的快速迭代,训练完的知识,如果要替换旧的知识,不能像以前那样通过硬盘信息的“删除”或“修改”操作来实现。新旧知识,就会像人的记忆一样会产生叠加,很容易产生混淆,这样也会产生“幻觉”。

基于以上分析,林华荣以为,“通过知识向量化的方式,把企业知识植入私有的向量数据库,这些向量数据库可以部署在自己的云上,或者本地服务器上,类似于以往 SaaS 对企业私有数据所提供的混合部署,这样就能很好地解决大语言模型落地的隐私安全问题;同时,通过 Agent 平台来约束大语言模型在不同的场景下,在指定的知识范围内,作出筛选回答,就可以较好地解决大语言模型在 To B 场景的幻觉产生问题。”

Gartner 技术成熟度曲线表明:每一项新技术从诞生到成熟,都会经历技术萌芽、欲望膨胀、泡沫破裂 、稳 步爬升、技术成熟的周期,同时也会伴随着一些“短期高估”和“长期低估”的误判。

从长期看,AI 浪潮不可逆转,应当看到AI 转型升级的战略意义;从短期看,如何“ AI”,利用AI升级自己的产品 ,许多 SaaS 厂商尚处于摸索阶段,应当避免因为 FOMO(错失恐惧 症),而盲目投入或转向。

在向 AI 的转型升级中,行业 Know-how 依然是 SaaS 厂商可靠的壁垒。

经历过短期焦虑,面对大 语言模型浪潮,林华荣充满信心,“这波大语言模型技术,核心价值还在于 AIGC , 也就是通过大语言模型来把企业内的隐性经验,输出成可用的显性知识或者服务, 大语言模型技术正在重塑我们的产品。所以我们今天不仅不焦虑了,而且由于我们在知识运营管理赛道上的 Know-how 积累,反而对未来的市场更加自信。”

02 “落地之痛”

据牛透社调研,目前大语言模型在国内 To B 场景的落地,仍处于探索和试点阶段,主要 有 智能客服、企业培训、AI面试、营销获客、数据分析、法律咨询、产品研发等场景;此外,还有一些偏 AI 平台、工具类的赛道,如低代码、AI Agent、RAG flow等。

在大语言模型的商业化落地中,目前主要面临安全合规、准确性、可控性、易用性、规模化等挑 战。

安全合规:这是企业经营不能触碰的“红线”。大语言模型商业化,也必须符合国家法律法规,确保信息安全、内容合规;此外,还要满足一些行业的特定要求,比如金融、政务行业,一些场景会要求大语言模型私有化部署。

准确性:生成数据不准确、文案效果不理想、胡说八道……幻觉问题,仍是大语言模型在 To B 场景落地的一个重要“BUG”。我们也发现有厂商在探索通过 Function Calling(函数调用)、RAG(检索增强生成)等技术,以增强生成内容的实时性和准确性。

可控性:安全可控是决定 To B 产品使用深度的一个重要因素。如何解决安全可控?除了合规和准确性要求,权限管理也非常重要。以知识管理场景为例,如何让大语言模型在不同场景下,针对不同权限的对象,输出正确的知识,动态权限管理非常重要,否则就只适用于浅层次场景,很难在全员应用的场景落地,业务价值也将大打折扣。

易用性:“我们公司里,Prompt 写得最好的,不是产品经理,也不是技术,而是测试工程师”。有 SaaS 厂商在面向客户提供 Prompt 工具时,发现客户不会用,甚至连自己的人员也不清楚怎么去用。这种情况下,能面向普通使用者,不用敲代码就可以搭建业务应用的 Prompt 工具就非常重要。

规模化:大语言模型技术,一定是在某个行业、某类客户中普惠,让大多数人可用,才能真正实现规模化。受 制于成本、实施能力、技术稳定性等因素,有的 SaaS 产品结合大语言模型技术后,只能服务极少部分的高客单价客户,还无法全面推广。

此外,咨询、数据治理等生态服务同样也不可少。SaaS 厂商要与AI生态厂商、客户共建标准化解决方案,通过“大模型 服务”,才能更好地闭环。

在大语言模型落地中,如何界定大语言模型的能力边界(优势)?

一些高频、高标准化、海量数据的场景,如数据分析、客户洞察等,不仅适合传统数字化技术,同样也比较容易结合大语言模型的优势。 以 Chat BI 为例,结合大语言模型的自然语言处理和数据分析能力,能够极大提高对话式 BI 的能力,使 BI 产品更易被业务场景深度使用; 此外,大语言模型在自然语言交互、推理能力、学习效率、执行能力等方面的优势,能够扩展、打通原来某些智能化环节,甚至会重新定义一些工作流程和岗位。比如在大语言模型能力的加持下,客服部门就有可能实现从服务中心到销售 中心的升级。

林华荣说,做管理软件出身的人,容易习惯性地通过软件来增加管理控制的精确性,但如果 仅从精确性来使用大语言模型技术,就很可能限制了大语言模型的优势能力 :“我们要把大语言模型当作‘人’,而不是当作工具来看,这是一个非常重要的思考方式。”

在企业级大语言模型产品的实施交付上, 同样也需要把大语言模型当作“人”来理解,并不局限于数据训练、微调等技术服 务,而是要具备驾驭大语言模型的能力,让它能为企业所用。林华荣把大语言模型实施归结为三项主要工作:提示词工程、Agent 流程设计、行业 Konw-how 植入。核心目标是要把行业 Konw-how 转化为驾驭AI的能力,帮助客户实现业务结果。

03 “升级之路”

大模型浪潮下,企业的 AI 转型,不再是一个选择题, 而是一个生存题。

在与一部分 SaaS 厂商的交流中,我们发现产研提效,是目前“SaaS AI”的一个重要落地场 景。

例如,一家 SaaS 企业产品负责人表示,自今年2月份以来,便要求所有研发人员必须使用大模型开发,否则就会被要求离开公司。目 前该公司AI写代码占到了60%,研发效率得到了极大提升。

除了在产研和运营上的提效,SaaS 厂商也在积极探索产品与大语言模型技术的结合 点。

林华荣表示,这里面一个难点在于大语言模型与传统管理软件输出的价值,是两个不同的维度。“管理软件属于解决管控性的系统,而大语言模型技术则相反,是要替代人的知识类高负荷工作。这也是为什么很多 SaaS 厂商一直很难找到大语言模型和自身产品产生 ‘化学反应点’的 原因。”

这一差异,造成大语言模型技术与国内大部分企业管理软件的融合,仍处在体验升级阶段,尚未深入管 理业务的核心。SaaS 企业的 AI 升级,也因此分为两条路线(或两个阶 段):

一为体验升级之路。即让原有能力,能够更好地被 AI 驾驭和驱动。这是适合当下大部分 SaaS,尤其一些复杂的管理软件 SaaS 厂商的升级之路。

二为重塑产品之路。即利用AI能力,做出一个全新的产品。这是适合更多创意工具、知识管理、智能客服等 AIGC 相关赛道 SaaS 厂商的升级之路。

相比之下,体验升级之路,更容易落地,但 SaaS 厂商在这条路上,多少有点 FOMO(错失恐惧症)的 因素:有的是被大语言模型裹挟,不得不卷;也有的是想在大语言模型蓝海中找 到新机会。

这有点像燃油车到电动车的转型:原来只是做汽车,现在还要装上冰箱、彩电……核心产品、价值链没变,更多是在卷体验(同样价格水平更多体验),很容易掉入“炫技陷阱”: 为了一点体验改善,去加大语言模型,最后叫好不叫座。

想象一下:用大语言模型去点外卖、订机票,是不是真的比用 app 更便捷?SaaS 厂商在交互体验升级上的投入,是否真的能够提高客单价和 续费率?

重塑产品之路,目前主要集中在 AIGC 高度相关的赛道。

以职行力为例,林华荣提到,以往职行力产品主要面向中大型客户,这些企业都是具备相对较为完备的知识培训 体系的,职行力可以在此基础之上,帮助客户解决让培训更有效果的问 题,从而快速提升人效;但由于中小企业往往都不具备完备的知识培训体系,所以,以往职行力是不做中小企业客群的:不是不想做,而是做不了,因为这样往往会把软件交付做成咨询案交付。

大语言模型技术出来之后,职行力推出了基于 AIGC 的智能陪练系统。与以往的产品相比,这更像是一种快速见效的“特效药”。无需通过漫长的系统化治疗(建立培训体系并推动体系落地),而是直接给每一位员工配备一名贴身的“专业医生”(提供咨询、辅导、带教服务的专业教练),就可以更加快速、高效、低成本地满足中小企业客群在业 务培训上的需求,这就是传统产品和大语言模型能力结合后产生的“化学反应” 。

结合以上两条路线来看,SaaS 厂商在大语言模型方向的探索,目前主要还在于提升产品交互体验,提高研发和运营效率上:比如在现有产品上增加特性,提升交互体验,或体现在一些单点功能的突破上,尚未与业务深度融合。从更长期看,随着大语言模型对 To B 业务场景的渗透, SaaS 厂商可能就需要思考如何借助大语言模型,重构产品服务。也就是说,体验升级之路,最终会走向重塑产品之路。

无论哪条路线,大语言模型技术,都为 To B 行业带来了新的生态融合。

近段时间,国内大语言模型厂商,逐渐从“拼参数”转向“争生态”。SaaS 厂商也能从中明显感受到大厂态度的转变:以往找大语言模型厂商谈 API 合作,对方可能不太理会;现在各赛道头部的 SaaS 厂商,经常都会收到多家大模型厂商的测试邀请。说到底,大模型厂商的商业化破局,关键还在应用生态ISV 伙伴的质量和数量,决定了大模型厂商的市场渗透能力和长期优势,这也是近期国内通用大语言模型“价格战”背后的逻辑。

但也有一部分 SaaS 厂商,看到了在 AI 生态中面临的挑战:AI Agent平台、AI 原生应用,会不会冲击到原有 SaaS 的地 位 ?

林华荣认为, SaaS 厂商的 AI 升级,有点类似于燃油汽车向电动汽车升级转型的过程。如果让汽车厂商自己去做电池,或者生产车载彩电、冰箱,显然是有点不现实的。更合适的方式是去找专 门的电池厂家、电器厂商合作。 要做到这一点,燃油汽车厂商首先要做的是把自己原有平台升级到电动化平台,能够挂载电池和电机,在车内可以接入冰箱、彩电等各种电器。

对于 SaaS 厂商来说,关键也是要保持开放,与专业的大语言模型厂商、Agent厂商合作,让自己能被AI驱动,融入到AI生态中。

04 结语

在大语言模型的商业化落地上,目前还面临安全合规、准确性、可控性、易用性、规模化等多重挑战,如何降低大语言模型技术的服务成本,完成闭环是关键 。

SaaS 的 AI 升级,目前主要有两条路线:一为体验升级之路:即让原有能力,更好地被 AI 驾驭和驱动;二为重塑产品之路:即利用 AI 能力,做出一个全新的产品。随着大语言模型对 To B 业务场景的渗透,体验升级之路,最终会走向重塑产品之 路 。

大模型时代,行业 Know-how 依然是 SaaS 厂商可靠的壁垒。尤其是资本退潮以后,SaaS 厂商打造盈利模型,最终还是要回到核心竞争力上,积极融入 AI 生态。相比较卷价格,卷专业价值更有未 来 。


免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。

如有疑问请发送邮件至:bangqikeconnect@gmail.com