本文摘自《云栖战略参考》,这本刊物由阿里云与钛媒体联合策划。目的是为了把各个行业先行者的技术探索、业务实践呈现出来,与思考同样问题的“数字先行者”共同探讨、碰撞,希望这些内容能让你有所启发。
如果说 2023 年是生成式人工智能(GenAI)元年,那么 2024 年或将是 GenAI 在行业侧应用扎根落地的伊始。
“所有 ToB 的应用场景都值得被 AI 重新赋能一遍。” 酷渲科技 CTO 陈一玮说。
酷渲科技成立于 2017 年,是一家以“科技创新驱动人才与业务共同成长”为使命的互联网企业服务公司,旗下的核心产品——业培一体的企业学习平台“酷学院”,为企事业单位提供“SaaS 平台 海量内容 运营服务” 三位一体企业学习解决方案。
与一般的企业培训不同,酷学院深耕技术领域,从算法软件到综合解决方案都进行了升级,以“萃学练考用” 的方法论进一步提升了行业竞争力与用户体验度。“萃学练考用”组织学习方法论是一套高效的企业学习方法论,在数字化时代背景下,它突破了传统培训模式的局限,全面提升了培训效果,实现了人才与业务的共同成长。
在 AI 大模型问世之后不久,酷学院就开始布局相关产品的研发,借由此次 AI 大模型的浪潮,对原本的酷学院平台进行 AI 赋能。相较于传统 SaaS 领域产品研发周期可能需要半年、甚至一年才能成型,酷学院早期战略布局的优势是,在赛道还未过于拥挤时,就可以拿出一个比较成熟的应用,这对于追求速度的酷学院团队来说至关重要。
其实,早在 2020 年酷学院就尝试和阿里巴巴达摩院合作研发“AI 出题”,不过当时的场景做出来之后,所有人都认为,让 AI 像人类一样精准地从海量知识库和题库里准确找出题目和内容,几乎是不可能完成的。然而,才过了三年,AI 大模型就带来了颠覆性的改变。现在,无论是从速度还是质量来看,真正的“AI 出题”新时代已经来临。
无论哪个行业,当下使用 AI 大模型赋能业务时,性能和成本是绕不开的两个话题,教培行业亦是如此。
正是基于上述两个因素的考虑,在选择 AI 大模型应用方式时,酷学院采用了“开源模型 闭源模型”双管齐下的方式进行整体技术架构搭建。在闭源模型方面,酷学院目前主要采用了通义千问 -Max 和通义千问 -Plus 进行大模型产品的开发,并整合了部分通义星尘的个性化角色对话的能力。
在整体平台打造方面,酷学院以包括文档解析、音视频解析等在内的多种数据处理能力为基石,为 AI 大模型 提供充足的“素材”,并以自用模型与通义千问大模型能力为 AI 基座,通过提示词工程、语义向量索引等技术手段,不断对模型进行工程化适配和调优,在原本的 “萃学练考用”方法论的基础上,融合了 AI 大模型的能力,更深层次地挖掘并展现了 AI 大模型在平台上的效能。
“萃”方面,使用 AI 大模型文字生成、文生图功能,结合酷学院已有文字驱动表情、视频能力,AI 导师可以根据参考资料、课程目标对象等自动生成符合企业要求的智能化课件。
“学”方面,基于 AI 大模型上下文理解、信息抽取、文本摘要等能力,酷学院将 AI 导学融入到在线课程学习中,智能总结课程关键内容,智能识别、切割课程内容,帮助员工快速高效学习课程。
“练”方面,酷学院使用 AI 大模型问答对话能力、丰富的多领域知识,特定或开放场景下提供模拟实战的、个性化的、实时互动的陪练体验,并根据个人的情况不断调整和拓展训练内容,高效训练快速掌握技能。
“考”方面,基于 AI 大模型上下文理解、信息抽取、文字生成等能力,酷学院可为用户提供根据课件智能出题,实现不同难度、不同类型 ( 单选、多选、判断、简答等 ),并结合酷学院已有能力发布并完成考试、练习,智能批阅试卷、作业。
“用”方面,通过 AI 大模型的问答能力,酷学院帮助企业构建了分权限隔离的 AI 知识库,并持续训练调优,形成企业专属的知识大脑,进而借助企业知识库和大模型的能力,生成各类方案,帮助企业员工高效传递并掌握知识,赋能整个业务运营环节,提升整体业务绩效。
与此同时,酷学院主要服务具有一定规模的中大型企业,其中一些企业对数据管理权限有着严格的要求,因此更偏好于内部培训以建立私有化的大模型或部署规模较小、更为专业精细的模型产品。通过融合闭源与开源的 AI 大模型策略,酷学院成功地平衡了安全与效率的需求,不仅有效降低了技术应用的门槛,还显著减少了企业的使用成本。
现在,酷学院通过阿里云提供的百炼平台进行数据的筛选、清洗、标注和训练,并调用通义千问 -Max 和通义千问 -Plus 的大模型能力进行赋能,同时也在百炼平台上整合了其他开源模型。从整体效果来说,这套平台架构和解决方案帮酷学院节省了很大一部分成本,也能为不同行业领域和不同培训需求的客户提供更好的服务。
在多类模型并行运用的情景下,酷学院感受到通义千问相较于开源的 AI 大模型,在整体模型的迭代效率与客服响应速度上都更好,不仅满足了酷学院对高效率的严格要求,而且在模型的有效性与准确性方面也展现出显著优势,这些能力都是酷学院在AI技术应用领域行业,持续保持领先地位的关键因素。此外,通义千问在与同类参数模型的对比中,凸显出更高的可用性和更优的性价比,契合了酷学院追求模型高性能与成本效益平衡的初衷。
以 AI 大模型为技术底座,酷学院重构了新一代“智能” 学习平台。
在底层,通过文档、音频、视频、图片等数据的收集、归纳、划分、清洗、分析等环节,为大模型提供了高质量的学习数据,并通过针对不同行业、不同企业进行模型的微调,以酷学院 AI 基座为依托,重新定义一个高效、智能、个性化的学习生态系统。
同时,酷学院利用 AI 能力对六大核心维度分别进行了赋能:AI 制课、AI 导学、AI 陪练、AI 考试、AI 问答、AI 报表。通过六大原子级“AI 技能”的赋能,进一步衍生了众多应用场景,切实提高了企业在应用学习平台时的效率和体验。
以 AI 导师为例,学员可以创建个性化的 AI 导师,为其 指定授权知识范围,通过知识学习与推理,AI 导师将知识解析后给出答案,并且可以将个人导师通过授权分享给他人使用。AI 导师可以根据不同学员进行个性化学习问答,并根据学员的反馈进行人工干预,不断调优纠偏。学员还可以在每次对话中访问原知识点,省去了翻阅多个知识材料的时间,极大提高了知识获取、知识应用的效率,进而更好地满足业务需求、创造价值。
这背后是基于通义千问 -Max AnalyticDB 向量数据库 音频转写构建的导师体系,该体系不仅具备大规模数据处理能力,还可以针对大规模语料和数据集进行优化分析。更重要的是,通义千问 -Max 的行业知识强化能力,可针对特定行业和领域进行训练,从而显著提升在该领域的专业度和准确率。
AI 导师与常规 C 端 AI 聊天工具产品的不同在于:首先,每一个学员都能够配置自己个性化的 AI 导师;第二,基于高精准度的权限跟数据隔离,每一个学员的 AI 导师都具有独一无二的背景知识;第三,通过自动和人工两种方式来进行调优和纠偏,让 AI 导师的回答效果更加的精准,更加的个性化。
另一个场景是“考试”。过去,企业出题需要总结、归纳大量资料,花费一周的时间,才能出一套几十道题目的试卷。而现在,利用 AI 大模型后,酷学院基于通义千问 -Plus AnalyticDB 向量数据库 音频转写构建了一套全新的出题系统,酷学院仅需将海量学习资料 “喂”给大模型,AI 大模型就可以快速的整理出考题,让培训管理者感受“飞”一般的出题速度。与原先相比,出题的速度与质量都有了极大的提升。
不仅如此,为了满足不同行业考题专业性的需求,酷学院还建立了提示词体系,将 AI 模型分为通用语料与专业语料,企业可以根据需求“喂”给 AI 大模型专业语料,这样编出的考题就更加专业。
“陪练”也是 AI 大模型赋能效果极佳的场景之一。在 AI 大模型问世以前,市面上已经有很多类似 AI 陪练的产品,但是这些产品基本都是基于 NLP(Natural Language Processing, 自然语言处理 ) 技术,通过将固定的脚本放进去,产生机械式提问,AI 对用户回答进行判断和打分。这样的陪练拟人化程度很低,陪练效果也不好。
酷学院基于通义星尘构建了一套“AI 陪练”系统,以通义星尘的个性化角色对话能力,模拟真实练习场景,为学员打造专属 AI“考官”,通过设定特定的“考官”角色,企业培训人员可以快速构建特定领域的知识体系。并通过动作、图片、表情等多种多样的交互方式,让整个业务培训过程更鲜活、更真实。
“AI 陪练”彻底颠覆了原先 NLP 技术架构下一问一答的模式,经过简单的训练和推理后,用户可以设置各类的场景、角色,提供更加真实的陪练场景。据介绍,陪练场景大多是应用在销售、客服等服务行业的人员培养方面,这种更加拟人化的场景,以及复杂多变的环境和突发情况的陪练体系的建设,对于企业培养该方面的人才而言,起到了积极的推动作用。
除此之外,AI 大模型在其他应用场景也有着显著的效率提升效果,以课程开发为例,通过“AI 制课”可以将原本的制课时间缩短 95% 左右,加速了教育内容的生产效率;在 AI 报表方面,可以快速收集、整理报表,并提供智能化的数据分析能力,帮助企业更好地进行决策。
目前,酷学院基于通义千问大模型对教学场景的改造正不断深入,还计划通过通义听悟、通义智文、通义灵码等不同能力继续构建更多 AI “X”场景,让客户切实感受到新一代 AI 大模型技术带来的组织效能的极致提升。
面向未来,酷学院也非常坚定要结合自身丰富的知识积累,最终打造自己的企业级培训专属大模型。经过多方比对选择和内部讨论,酷学院最终选择阿里云百炼大模型服务平台。基于百炼平台全链路的模型训练能力、多维度的模型评估工具、多种强化的垂直领域能力大模型,以及一站式在线用户部署,能够大幅降低酷学院对模型训练与部署成本。
即便当下酷学院对于 AI 大模型的应用已经取得显著成效,且应用场景打磨得也相对完善,但仍有不少优化空间。
首先,从大模型质量层面来看,当下市面上的大模型产品缺乏垂直类行业的知识储备深度、专有知识精准度,以及大模型的幻觉等问题都是制约大模型在行业广泛落 地实施的瓶颈。针对这些问题,普遍的策略是通过采用 MoE(Mixture of Experts,混合专家架构)的模式来解决。据了解,酷学院也有意尝试 MoE 架构的大模型产品,进一步针对平台上的若干功能进行精细优化与性能调优。
其次,即便市场刚刚经历过一波大模型的降价,但对于大多数企业而言,AI 大模型使用成本仍然是一个十分值得关注的问题。不过,陈一玮对此持相对乐观的态度,他指出,“AI 大模型虽然对于整体行业而言,还算是一个比较新的技术,但是随着技术的成熟度越来越高,使用门槛也会越来越低,而成本也会越来越低。”
伴随 AI 大模型浪潮,包括酷学院在内的 SaaS 行业又迎来一场新的机遇。酷学院希望未来两年内,可以将 AI 大模型的能力全面融合到现有业务中,通过 AI 能力,实现降本增效。“我们会不断完善整体工程能力,争取以最低的成本,帮助用户训练他们所需要的、好用的 AI 产品。”陈一玮说。
免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
如有疑问请发送邮件至:bangqikeconnect@gmail.com