C114通信网  |  通信人家园

人工智能
2024/4/1 09:41

大模型ToB落地解法(一):规模化的定制开发

天翼智库  

 

大模型落地千行百业绕不开定制化问题,生成式AI变革软件范式,使低成本、快速的大规模个性化定制和交付成为可能。本文主要介绍一种产品化的AI应用定制模式,即产品是由“大模型+ Copilot/Agent”驱动的,本身具有定制能力,体现为高度的可配置性、可扩展性和丰富的自定义功能,企业可以结合自身业务场景、流程、角色、知识库、权限等特点,零代码按需配置、搭建AI应用,不同于以往项目制一对一的定制开发,是一种低门槛、高效、可复用、智能化的客户需求响应模式。以产品方式解决定制化问题,是现阶段人工智能厂商探索大模型ToB规模化落地的重要方向之一。

三个典型产品

1. Amazon Q:通用的企业级生成式AI助手定制平台,是Copilot as a Service模式落地的重要尝试

Amazon Q基于亚马逊云科技自身多年积累的知识和经验训练而成,专为办公场景和工作辅助而设计,企业用户仅需四个步骤即可完成与职业角色相结合的对话式AI助手(web应用)的创建,通过互动聊天、插件联动等方式,帮助员工简化任务、学习技术、加速决策、解决问题等。用户可通过多种方式唤醒Amazon Q,包括亚马逊云科技管理控制台、文档页面、IDE、第三方应用界面等。

  图1 Amazon Q 产品的主要功能及优势特点

Amazon Q的优势主要体现在三个方面:

一是支持内外部多种数据源。Amazon Q支持用户自己选择模型(包括自有和第三方托管模型)和定义数据源,可以连接40+个流行的企业应用和文档库,包括Amazon S3、Salesforce、Google Drive、Microsoft 365等,从中获取数据,也能将这些应用连接成工作流,实现互联互通。

二是能与亚马逊其他产品配合使用。Amazon Q既可以使用企业私有知识独立完成任务(ChatBot),也可以嵌入亚马逊云其他产品中使用(Copilot),如商业智能分析工具QuickSight、编程工具CodeWhisperer、客户联系工具Connect,通过强化这些产品的效能及形式,提升用户体验。

三是可基于用户角色和权限进行访问控制。Amazon Q可以理解用户的身份、角色和权限,并根据这些信息对交互进行个性化设置,确保用户能够得到与其工作职责相符的定制化结果,保证数据隐私和安全。

  图2 Amazon QuickSight+Amazon Q应用示例

Amazon Q目前只提供预览版,面向开发人员(构建者版)和非开发人员(企业版)量身定制两款套餐,定价分别为20、25 USD/月/用户,现有落地案例如,亚马逊内部团队利用Amazon CodeWhisperer工具中Amanzon Q的代码转换功能,实现两天内将上千款应用程序从Java 8升级到Java 17;宝马公司正在使用Amazon QuickSight中的Amazon Q优化库存管理,帮助分析师构建数据仪表板,从以往需要几天时间缩短至几小时;埃森哲利用Amazon CodeWhisperer和Amazon Q为多达5万名软件开发者和IT人员提供支持。

2. AskXBOT:集Agent与工作流设计、开发、使用、管理、知识沉淀于一体的一站式平台,支持企业私有化部署

AskXBOT是初创公司澜码科技自主研发的基于大语言模型的AI原生企业级Agent平台,由Agent设计器、知识中心、使用端、管理平台四个核心模块构成,用户可以通过对话方式提出需求,快速创建Agent,并通过不断积累专家知识和行业经验,持续提高模型输出精度。AskXBOT具有三个优势特点:

一是“标准化+个性化”按需灵活创建:平台预置标准化的模板动作库,内含智能会话、知识检索、数据查询、数据分析、任务执行等多个通用型Agent,用户仅需简单输入、点选,最快2分钟即可创建Agent,同时,平台也开放多项配置能力,为企业用户在非标准业务场景的个性化定制需求提供支持。

二是支持复杂工作流设计:平台搭载工作流设计器,通过提供多种多模态模型集成(如LLM、文生图)、常用能力和组件封装等,支持企业快速定制个性化AI工作流,既能实现多Agent的串联,也能基于API、RPA等技术连接企业原有软件系统(如CRM),实现复杂流程操作。

三是端到端的软件管理逻辑:平台管理功能覆盖Agent全生命周期,既能管理与调度Agent及各种工作流,同时,也可对Agent使用效果进行评估,实时记录用户与Agent的互动,对Agent进行持续优化和迭代。

  图3 AskXBOT平台财报生成流程创建过程图

AskXBOT平台目前在法律、保险、教育等领域均有落地案例。如,澜码科技基于AskXBOT平台为某市监局打造法律知识问答Agent,已沉淀200余件现行有效法律目录,可对相关案例进行查询、总结和复杂推理,准确率达90%以上。又如,基于AskXBOT平台为某人寿保险公司打造保险产品营销顾问与销售培训两款Agent,已沉淀超过10万行的寿险产品与销售专家知识,可以为代理人提供包括寿险行业知识问答、产品卖点介绍、条款解释、客户跟进建议等涵盖销售各个环节的辅助,使用满意度达到90%。

3. 360智能营销云:基于“大模型+Agent+知识库”架构的垂域产品解决方案,致力于构建营销全链路赋能模式

360以自研的AI大模型360智脑为底座,融合工作流设计、数字人制作、知识库训练、3D建模等多项技术能力,打造360AI数字员工、360AI数字人、360智绘(AI生图)三个核心产品,面向零售电商、医美、传媒、医疗、文旅、金融、政务等行业,围绕智能营销、智能办公、智能客服三大场景提供AI应用定制服务。如,企业可以结合自有知识库,借助AI数字员工生成适用于小红书、朋友圈、知乎等不同平台风格的创意营销文案,或者为直播、短视频、电商店铺、跨境出海工作快速生成适用的文字和图片。

  图4 360智能营销云解决方案

360智能营销云致力于以生成式AI赋能品牌营销,推动企业实现从策略洞察、产品研发、到营销推广,再到销售转化、用户运营的营销全链路智能化升级。例如,360采取“AI产品组合+场景化定制+行业/企业知识库”的方式,助力海盗虾饭(100家门店)新品开发实现从“需求收集->新品研发->单店测试->全门店推广”的全流程提效,以品类需求收集环节为例,360AI数字员工在读取大量行业报告及品牌经营数据后成长为行业专家,能有理有据的给出新品品类建议。

  图5 360智能营销云AI产品多环节赋能“海盗虾饭”新品开发

启示与建议

生成式AI正在改变ToB软件定制化的实现方式,推动AI开发模式从以专用小模型定制训练为主的“作坊式”,向以通用大模型预训练为主的“工业化”转型升级,基于“大模型+ Copilot/Agent+企业知识库”框架的AI应用规模化定制能力,成为大模型厂商构筑新竞争优势的关键发力点,尽管目前仍处于探索阶段,存在一定局限性,但趋势和方向确定,电信运营商也需把握时机,加快布局相关产品和服务能力。

1. 以重塑AI软件定制模式为导向,做好产品顶层设计和规划

一是明确产品定位和目标,是面向通用行业场景还是垂直行业场景,是否支持企业私有化部署等;二是明确大模型配置策略,是使用自有的还是合作引入的,是否支持用户自定义;三是明确人与大模型的交互载体和形式,是选择较成熟的Copilot,还是仍在探索中的Agent,如何跟随大模型技术迭代调整产品升级节奏;四是明确生态渐进式扩张路径,不同发展时期需要引入哪些类型的合作伙伴、集成哪些软件能力和知识源、采取哪种合作模式等。

2. 剖析大模型技术与行业需求结合点,找准场景切入点

选择容错率高的客户共性、关键性、趋势性、痛点场景优先切入,是大模型厂商的普遍做法。如,亚马逊云科技研究发现,75%的行业应用集中在市场、客户、软件工程和研发四个方面,并且企业经常面临信息源多而杂、数据收集与整合分析耗时等痛点,Amazon Q正是围绕这些通用场景和问题而设计。360则是抓住了营销领域碎片化、变动快、个性化程度高的特点,选择从垂域场景切入。

3. 强化知识管理能力,把企业知识库建设作为产品标配

企业知识库是实现AI应用个性化、差异化的关键,AI厂商不仅要为企业提供应用定制服务,还要能够帮助企业强化数据治理能力,如澜码科技的知识中心,通过不断沉淀行业专家、文案达人、设计高手的经验和技能,借助AI应用将其转化为结构化的工作流程,进而把专家级的能力赋予每一个使用者,这才是大模型独特优势和价值的真正体现。

本文作者

 

 

孙丽娟

战略发展研究所

副主任分析师

工学硕士,长期从事ICT新兴业务领域的产业与竞争研究,近年来专注于5G行业应用、产业数字化等相关研究。

方义松

战略发展研究所

主任分析师

硕士,专注于科技产业分析、企业竞争战略及商业模式研究。

给作者点赞
0 VS 0
写得不太好

免责声明:本文仅代表作者个人观点,与C114通信网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。

热门文章
    最新视频
    为您推荐

      C114简介 | 联系我们 | 网站地图 | 手机版

      Copyright©1999-2024 c114 All Rights Reserved | 沪ICP备12002291号

      C114 通信网 版权所有 举报电话:021-54451141