大模型技术已经成为各行各业的关键驱动力,在协同办公领域中,具有丰富且可落地的业务场景,本文挑选了6个可以获得高收益、快速落地、有良好效果的应用场景,供大家参考,今天的内容将从以下三个部分进行展开:
1. 大模型在协同办公中的应用场景与建设路径
2. 针对大模型幻觉和数据治理的解决思路
3. 大模型的落地实践案例分享
分享专家|杨国生 泛微网络 副总裁
内容已做精简,如获取专家完整版视频实录和课件,扫码领取
01
大模型在协同办公中的落地场景与建设路径
大模型的AI技术,能够打造一款让用户高度自然交互的智能办公平台,简化前台操作,让软件自动识别,办公场景中各类系统功能指令。这不仅仅为员工的工作方式带来了变化,还能让员工更专注于以客户需求为服务中心,更专注于解决更复杂的问题和更具有创造性的工作。
融入大模型的协同办公场景会有哪些?
实际上,大模型可广泛应用于日常工作中的各类场景,例如像市场、营销、采购、行政、人事等等,具体比如会议室预定、日程安排、知识问答等等。
接下来举例几个具体的场景应用。
人事考勤场景:这是在办公领域很典型的一个场景,在结合大模型的能力后,让用户使用就变得极为简单。只要说一句话,比如“查询我上周的考勤情况”,那么就可以自动地、精准地识别出上周的考勤情况了。
行政管理场景:日程的安排也是办公领域很常见的场景,在结合大模型的能力后,只要说一句话,就可以自动地、精准地识别出日程安排,包括同事为我安排的工作和自己创建的行程。
商务订票场景:企业商旅出行订票是很多业务人员经常要用的一个功能,在结合大模型的能力和RPA能力后,只要说一句话,比如“查询下周一去北京的机票”,就可以自动的检索各个商旅平台,下周一去北京的各个时间段的机票情况、价格信息等,比较很方便让员工做出选择。
合同审批场景:在采购过程中,会经历合同申请、审批,在结合大模型的推理能力后,比如和某位客户的办公软件采购合同,首先大模型会自动地抽取跟客户有关的方案报价信息。这实际上是利用大模型提取的能力,同时把提取出来的信息,再结合公司标准的合同模板,就自动地生成客户的合同。
人工只要简单地确认一下信息,就可以省去撰写合同的工作量,同时在整个合成的过程中,也涉及到合规方面智能审查,这部分工作量也通过智能模型的能力得到了有效减负。
通过上述场景的介绍,整个智能化的协同系统,实现路径是怎么样的?
整体来说可以分为四个环节:
第一,前期建设的核心是要找到典型的需求场景;
第二,根据具体需求来设计整个场景的交互体验;
第三,根据场景去做前期的数据收集,和语料的标注、训练等等;
最后是整体系统开发实施、测试、上线、运维。
在这个过程中,前期需要根据需求场景做些样本,用样本数据去测试模型在特定场景下的整体效果是怎么样的。通过这样的前期样本测试后,再继续展开所有场景的训练和测试。
测试的过程实际上是一个迭代的过程,直到最后根据测试样本的指标,去验证它的整体效果,最后达到上线的标准。
02
大模型落地业务过程中,遇到的难题与解题思路
第一个是大家比较熟知的大模型幻觉问题。
举一个例子,比如说用户要预定会议室,那按照这个场景的设计,它应该是会产生多轮的对话询问,包括预定哪个会议室、什么时间开始、什么时间结束等等。
从上图很显然可以看出,它编造了会议的地点、会议的时间、甚至会议的内容。
那如何一步步去解决幻觉问题带来的影响?
1. 可以通过优化提示词,这是很常见的一个方法。优化提示词来严格地告诉大模型,帮它做好角色的定义,比如说“你是一个关键信息的抽取器,用来提取我这句话里面有哪些是关键信息”,这就是一个角色定义。
2. 可以根据每个场景中表单的字段信息,告诉模型用途。比如说会议地点可以加以标注,会议地点是用来开会的地方,让大模型更能容易理解。
3. 时间方面的问题属于大模型中比较典型的,目前可以弱化这方面的推理生成的能力。比如说上周四到本周二,因为结果由于跨月份后,上下月衔接的时间中,生成的会不太理想。那这时候会去弱化它对时间的推理能力,让模型不要生成具体的开始时间、结束时间,而是直接提取用户表达的信息。当我们拿到比如上周的这个时间表达以后,会用泛微的模型去做转化,转化出正确的时间段以后,再结合大模型本身的结果,整合到一起再推给终端用户。
4. 如果确实碰到一些场景存在大量的多样性样本,导致整个效果不是很好的情况下,需要抽取各自的样本去做微调。
第二个典型问题是企业对数据管理的要求十分严格。
当前部署大模型都是以SaaS的API的形式来服务的,GPU资源贵是很重要的制约条件。
那么企业组织过程中,经常会有敏感的数据,比如说人员信息,企业名称信息等等,这些信息直接用API的方式出去是不合适的,所以为了避免企业关键的敏感信息泄露,也实现了一套脱敏的算法。
整体的流程如上图所示,当用户发出请求后,我们会去识别里面的关键信息,是不是属于我们定义的敏感信息,比如说人名、企业名等等,如果识别到了,会把信息提取出来,然后用特别的算法去做加密,并自动形成密文表。
加密还有很重要的关键点,一定要带有语义的加密,不是从前那种MD5之类的方式,加密后会让大模型不认识,带有语义的加密信息通过大模型生成完后,再自动解密。
带有语义的加密可以举几个简单例子,比如说周杰伦马上要在上海开演唱会,会自动把它加密成张某杰这样方式,张某杰对于大模型来讲,还是能知道它代表人名的意思,而且这个密文还是随机的。
03
大模型在协同办公中的实践案例
传统办公与运营过程中面临的挑战较多,痛点主要分为以下四个方面。
第一,组织规模大了以后,遇到事情不知道找谁,员工之间往往都是互相不熟悉的,每个人实际上都有自己业务专长,碰到某个问题以后,不知道找哪个专家去协助解决。
第二,公司的产品越来越多,业务越来越广,每个业务团队要求需要更高的知识背景和更全面的客户了解。企业内部实际上已经沉淀了大量各业务条线的专业知识,是否可以充分挖掘出来,直接让业务员便捷访问,快速得到需要的答案。
第三,随着企业的发展,往往需要更多的数字化应用的功能来支撑,但是功能多了,员工学习成本、使用成本也就越来越高,不经常用的功能入口往往不容易被找到。用户是否可以以一种自然语言的方式,方便地使用,来提高系统的使用和办事效率的方式。
第四,企业服务的客户量很大,人效很难跟上来,每天大量的客户产生的问题咨询,包括新同事对业务的不熟悉等等。是否可以把解决过的问题知识,能让各业务条线的同事很方便的获取借鉴呢。
基于上述4个主要的痛点,协同办公智能解决方案实际是采用了语义分析,包括泛微自研的模型、OCR的关键技术,智能融合运营过程中的各种场景。智能的底座支撑,其关键是以大模型为核心,然后结合自研的算法、RPA的机器人等等来形成整体的方案,从而能够为企业组织的各个部门服务。
大模型的引入,首先实现在找人找资料方面更方便有效了,可以利用语音的方式,找到需要的问题答案。
第二,大大降低了系统的使用和学习成本 ,通过自然交互方式,自动识别需要的功能,并能多轮对话引导用户填写。
第三,为业务系统赋予智能化 ,能够让应用更智能,实现系统和业务的协同。
第四,融合了大模型的技术后,将智能技术在实际业务场景中应用,能够更加智能化的驱动业务管理。
第五,将智能化技术融合到智能办公的各个环节当中,能够始终围绕人的工作,提供智能化服务。
最后是提供智能化的运营底座支撑,基于平台可以随时扩展更多的智能应用场景,随时可以扩展新的业务智能助理。
以上就是本次的分享内容,如获取专家完整版视频实录和课件可扫码领取。
杨国生先生,现就职于泛微网络,拥有十多年的数字化建设经验和协同办公软件产品研发经验。擅长软件应用设计及信息化系统架构融合解决方案,致力于推动智能化技术如RPA、OCR、NLP、大模型等技术在协同办公领域的场景应用。
热门跟贴